[论文解读] DiffNet++: A Neural Influence and Interest Diffusion Network for Social Recommendation

Le Wu, Junwei Li+4 more|arXiv (Cornell University)|Jan 15, 2020

Recommender Systems and Techniques参考文献 51被引用 48

一句话总结

DiffNet++ 将神经扩散统一在社交图（用户-用户）和兴趣图（用户-物品）上，以学习增强的用户/物品嵌入用于社交推荐，在多个数据集上优于基线。

ABSTRACT

Social recommendation has emerged to leverage social connections among users for predicting users' unknown preferences, which could alleviate the data sparsity issue in collaborative filtering based recommendation. Early approaches relied on utilizing each user's first-order social neighbors' interests for better user modeling and failed to model the social influence diffusion process from the global social network structure. Recently, we propose a preliminary work of a neural influence diffusion network (i.e., DiffNet) for social recommendation (Diffnet), which models the recursive social diffusion process to capture the higher-order relationships for each user. However, we argue that, as users play a central role in both user-user social network and user-item interest network, only modeling the influence diffusion process in the social network would neglect the users' latent collaborative interests in the user-item interest network. In this paper, we propose DiffNet++, an improved algorithm of DiffNet that models the neural influence diffusion and interest diffusion in a unified framework. By reformulating the social recommendation as a heterogeneous graph with social network and interest network as input, DiffNet++ advances DiffNet by injecting these two network information for user embedding learning at the same time. This is achieved by iteratively aggregating each user's embedding from three aspects: the user's previous embedding, the influence aggregation of social neighbors from the social network, and the interest aggregation of item neighbors from the user-item interest network. Furthermore, we design a multi-level attention network that learns how to attentively aggregate user embeddings from these three aspects. Finally, extensive experimental results on two real-world datasets clearly show the effectiveness of our proposed model.

研究动机与目标

• 通过社交信息和高阶图结构来解决协同过滤中的数据稀疏问题的动机。
• 提出一个统一的模型，联合捕捉社交流影响扩散和兴趣扩散。
• 设计一个多层次注意力机制，适应性地融合来自两个图以及来自多个扩散层的信息。
• 通过迭代的扩散层学习用户和物品嵌入，以捕捉更高阶的关系。
• 在真实数据集上展示相较基线的改进的Top-N推荐性能。

提出的方法

• 构建一个异构图 G，由用户-用户社交图和用户-物品兴趣图以及相关的用户/物品属性组成。
• 通过在统一框架内联合建模社交图上的影响扩散和物品图上的兴趣扩散，将 DiffNet 扩展为 DiffNet++。
• 使用嵌入层获得自由的用户/物品嵌入，并使用融合层将它们与属性结合。
• 通过影响扩散层和兴趣扩散层、以及学习来自邻居和图的聚合权重的多层次注意力网络，迭代更新用户和物品嵌入。
• 通过在用户-物品图中使用注意力权重从相邻用户聚合物品表示，并在使用社会影响和物品-兴趣信号的同时，带有图级融合权重地更新用户表示。
• 通过在扩散层之间级联嵌入来预测评分，遵循 LR-GCCF 风格的预测以缓解过平滑。

实验结果

研究问题

• RQ1 将更高阶的社交影响扩散和物品-兴趣扩散联合建模，是否能在社交推荐中超越仅建模任一图的效果？
• RQ2 如何设计多层次注意力以自适应地平衡来自每个用户的社交图和物品图的贡献？
• RQ3 扩散深度 K 对推荐性能的影响是什么，DiffNet++ 如何缓解过平滑？
• RQ4 基于 DiffNet++ 的嵌入在真实数据集的 Top-N 推荐上是否优于强基线？

主要发现

• 在 Top-10 推荐上，DiffNet++ 在 Yelp 上约领先最佳基线 14%，在 Flickr 上 21%，在 Epinions 上 12%，在 Dianping 上 4%。
• 该模型通过多层次注意力机制有效地融合了来自社交网络和物品网络的高阶信息。
• 物品嵌入受益于在用户-物品图中对相邻用户的聚合，使用学习到的注意力权重。
• 用户嵌入整合了社交影响和物品-兴趣扩散，带有针对每个用户的图感知融合权重。
• 在四个真实数据集上的实验表明所提出的统一框架的有效性。