[论文解读] Graph Neural News Recommendation with Long-term and Short-term Interest Modeling

Linmei Hu, Chen Li+3 more|arXiv (Cornell University)|Oct 30, 2019

Recommender Systems and Techniques参考文献 32被引用 12

一句话总结

该论文提出 GNewsRec，一种基于图神经网络的新闻推荐模型，通过构建异构用户-新闻-主题图，联合建模用户的长期与短期兴趣。通过利用图卷积网络捕捉高阶用户-物品交互，并结合基于注意力的LSTM建模近期阅读行为，该模型在真实世界数据集上显著优于当前最先进方法，在AUC和F1指标上达到SOTA性能。

ABSTRACT

With the information explosion of news articles, personalized news recommendation has become important for users to quickly find news that they are interested in. Existing methods on news recommendation mainly include collaborative filtering methods which rely on direct user-item interactions and content based methods which characterize the content of user reading history. Although these methods have achieved good performances, they still suffer from data sparse problem, since most of them fail to extensively exploit high-order structure information (similar users tend to read similar news articles) in news recommendation systems. In this paper, we propose to build a heterogeneous graph to explicitly model the interactions among users, news and latent topics. The incorporated topic information would help indicate a user's interest and alleviate the sparsity of user-item interactions. Then we take advantage of graph neural networks to learn user and news representations that encode high-order structure information by propagating embeddings over the graph. The learned user embeddings with complete historic user clicks capture the users' long-term interests. We also consider a user's short-term interest using the recent reading history with an attention based LSTM model. Experimental results on real-world datasets show that our proposed model significantly outperforms state-of-the-art methods on news recommendation.

研究动机与目标

• 通过挖掘用户、新闻和主题之间的高阶结构关系，解决新闻推荐中的数据稀疏问题。
• 联合建模用户的长期与短期兴趣，以提升个性化推荐效果。
• 通过引入潜在主题信息作为用户-物品交互的桥梁，缓解冷启动与稀疏性问题。
• 构建一个统一框架，通过图神经网络整合协同过滤与内容信号。

提出的方法

• 构建异构用户-新闻-主题图，显式建模用户、新闻文章与潜在主题之间的交互关系。
• 应用图卷积网络（GCNs）在图上传播嵌入，捕捉用户与新闻表征中的高阶结构信息。
• 利用GCN学习的用户嵌入，从完整的点击历史中学习长期用户兴趣。
• 通过基于注意力的LSTM建模最近用户点击序列，捕捉短期兴趣。
• 通过元素级拼接或注意力机制，融合长期与短期用户嵌入，生成最终用户表征。
• 使用组合用户嵌入与新闻嵌入之间的相似度分数，预测候选新闻的相关性。

实验结果

研究问题

• RQ1 同时建模长期与短期用户兴趣在多大程度上提升了新闻推荐性能？
• RQ2 引入主题信息在多大程度上缓解了用户-物品交互中的数据稀疏问题？
• RQ3 通过图神经网络捕捉的高阶结构信息在新闻推荐中起到了何种作用？
• RQ4 不同架构组件（如GNN层数、嵌入维度）对模型性能有何影响？

主要发现

• 在Adressa-1week数据集上，GNewsRec以81.16%的AUC和82.85%的F1达到SOTA性能，显著优于所有基线模型。
• 移除GNN模块后，AUC下降超过5个百分点，证明高阶结构学习在模型中具有关键作用。
• 若不包含短期兴趣建模，AUC与F1均下降约2%，证实其对动态用户偏好的重要性。
• 若省略主题信息，性能出现显著下降，表明主题信息能有效缓解数据稀疏与冷启动问题。
• 最优GNN深度为两层，因更深网络（如三层）会引入噪声并降低性能。
• 最优嵌入维度为128，性能在此处达到峰值，随后因过拟合与噪声增大而下降。