[论文解读] LA-CTR: A Limited Attention Collaborative Topic Regression for Social Media

Jeon-Hyung Kang, Kristina Lerman|arXiv (Cornell University)|Nov 5, 2013

Complex Network Analysis Techniques参考文献 23被引用 22

一句话总结

本文提出LA-CTR，一种协作主题回归模型，通过建模用户对朋友的兴趣与注意力权重，将有限且非均匀的用户注意力整合到社交媒体推荐中。该模型在Digg平台上预测用户对新闻项目的投票时，优于SOTA模型如CTR和CTR-smf，表明心理社会动机模型通过捕捉注意力稀缺与选择性关注等认知约束，可提升推荐准确性。

ABSTRACT

Probabilistic models can learn users' preferences from the history of their item adoptions on a social media site, and in turn, recommend new items to users based on learned preferences. However, current models ignore psychological factors that play an important role in shaping online social behavior. One such factor is attention, the mechanism that integrates perceptual and cognitive features to select the items the user will consciously process and may eventually adopt. Recent research has shown that people have finite attention, which constrains their online interactions, and that they divide their limited attention non-uniformly over other people. We propose a collaborative topic regression model that incorporates limited, non-uniformly divided attention. We show that the proposed model is able to learn more accurate user preferences than state-of-art models, which do not take human cognitive factors into account. Specifically we analyze voting on news items on the social news aggregator and show that our model is better able to predict held out votes than alternate models. Our study demonstrates that psycho-socially motivated models are better able to describe and predict observed behavior than models which only consider latent social structure and content.

研究动机与目标

• 通过将有限注意力等认知约束整合到协同过滤中，弥合行为心理学与统计推荐模型之间的差距。
• 通过建模用户如何非均匀地在朋友间分配有限注意力，提升社交媒体中用户对项目采纳行为的预测准确性。
• 提供可解释的用户画像，以捕捉特定主题的兴趣以及对有影响力用户的注意力权重。
• 评估注意力感知模型是否比忽略认知因素的模型更能准确预测现实世界中的用户行为。
• 证明整合注意力等心理机制可带来更准确且可解释的推荐。

提出的方法

• 通过在朋友上引入用户特定的注意力分布扩展CTR模型，该分布被建模为朋友帖子内容中主题的分布。
• 引入影响权重（s_i），以调节用户对每位朋友的关注程度，且该权重随主题变化，以反映对亲密或相关朋友的偏好性关注。
• 采用生成式概率框架，将项目采纳建模为用户兴趣（u_i）、对朋友的关注（φ_il）和影响（s_il）的函数，并对项目内容进行主题建模。
• 使用变分贝叶斯推断估计潜在变量，包括用户兴趣向量、注意力分布和影响参数，基于用户-项目采纳与内容的联合似然。
• 采用非共轭变分推断方法，以处理模型结构中注意力、影响与主题建模之间的复杂依赖关系。
• 通过在不同推荐项目数量（X ∈ {20, 40, ..., 200}）下使用召回率@X进行矩阵内预测，评估在保留投票上的性能。

实验结果

研究问题

• RQ1 在朋友之间建模有限且非均匀的注意力是否能提升社交媒体推荐任务中的预测准确性？
• RQ2 将朋友的主题特定影响纳入模型是否优于将所有朋友同等对待的模型？
• RQ3 LA-CTR在预测用户对新闻项目的投票时，与SOTA模型如CTR和CTR-smf相比表现如何？
• RQ4 该模型能否通过区分用户兴趣与注意力分配，为用户行为提供可解释的说明？
• RQ5 引入注意力等认知约束是否能带来比仅依赖社交结构与内容的模型更好的泛化能力？

主要发现

• LA-CTR在所有召回率@X评估中均持续优于CTR与CTR-smf，LA-CTR的召回率@100超过CTR-smf的召回率@200。
• 即使仅使用50个主题，LA-CTR的表现仍优于使用200个主题训练的CTR与CTR-smf模型，表明其具有更高的数据效率与建模能力。
• 模型在更小的主题空间中表现更优，表明注意力建模的价值高于单纯增加主题复杂度。
• 图4表明，LA-CTR可解释细粒度的注意力模式：例如，用户在体育主题上对某位朋友关注度最高，而对其他朋友的关注分配则不同。
• 该模型不仅能成功预测最可能的项目，还能预测最可能的采纳来源，显示出在推荐系统中进行来源归因的潜力。
• 尽管模型结构复杂，但并未因用户-项目矩阵与社交网络矩阵的稀疏性导致性能下降，在真实Digg数据上仍保持高效推理。