[论文解读] Graph Collaborative Signals Denoising and Augmentation for Recommendation

Ziwei Fan, Ke Xu+4 more|arXiv (Cornell University)|Apr 6, 2023

Recommender Systems and Techniques被引用 5

一句话总结

本文提出 GraphDA，一种新颖的图邻接矩阵增强框架，通过预训练和 top-K 邻居采样，对用户-物品交互进行去噪，并整合用户-用户与物品-物品的相关性。通过提升邻居质量并减少噪声，GraphDA 在多个基准数据集上显著提升了活跃用户与非活跃用户的推荐性能。

ABSTRACT

Graph collaborative filtering (GCF) is a popular technique for capturing high-order collaborative signals in recommendation systems. However, GCF's bipartite adjacency matrix, which defines the neighbors being aggregated based on user-item interactions, can be noisy for users/items with abundant interactions and insufficient for users/items with scarce interactions. Additionally, the adjacency matrix ignores user-user and item-item correlations, which can limit the scope of beneficial neighbors being aggregated. In this work, we propose a new graph adjacency matrix that incorporates user-user and item-item correlations, as well as a properly designed user-item interaction matrix that balances the number of interactions across all users. To achieve this, we pre-train a graph-based recommendation method to obtain users/items embeddings, and then enhance the user-item interaction matrix via top-K sampling. We also augment the symmetric user-user and item-item correlation components to the adjacency matrix. Our experiments demonstrate that the enhanced user-item interaction matrix with improved neighbors and lower density leads to significant benefits in graph-based recommendation. Moreover, we show that the inclusion of user-user and item-item correlations can improve recommendations for users with both abundant and insufficient interactions. The code is in \url{https://github.com/zfan20/GraphDA}.

研究动机与目标

• 解决现有图协同过滤方法在二分图邻接矩阵中因用户-物品交互存在噪声和稀疏性而带来的局限性。
• 通过整合用户-用户与物品-物品相关性，提升交互丰富与稀少用户的推荐性能。
• 开发一种预训练与增强流水线，生成更鲁棒且信息量更丰富的邻接矩阵，无需依赖外部特征或蒸馏技术。
• 证明通过去噪与增强实现的邻接矩阵优化可带来在多样化数据集上一致的推荐质量提升。

提出的方法

• 预训练一个基于图的推荐模型，从原始用户-物品交互中获取高质量的用户与物品嵌入。
• 对预训练得到的嵌入应用 top-K 采样，构建去噪并增强后的用户-物品交互矩阵，提升邻居质量。
• 基于预训练嵌入构建对称的用户-用户与物品-物品相关性矩阵，以捕捉高阶协同信号。
• 将增强后的用户-物品矩阵与用户-用户、物品-物品相关性分量整合为统一的邻接矩阵，供图卷积网络使用。
• 在 LightGCN 风格的框架中使用优化后的邻接矩阵，以改善消息传递与表征学习。
• 通过控制邻居密度与相关性强弱的超参数，端到端优化最终模型。

实验结果

研究问题

• RQ1 二分图邻接矩阵的质量如何影响不同交互次数用户的表现？
• RQ2 整合用户-用户与物品-物品相关性是否能同时改善活跃用户与非活跃用户的推荐效果？
• RQ3 通过预训练嵌入的 top-K 采样对用户-物品交互进行去噪，是否能带来优于标准图推荐方法的性能？
• RQ4 在增强后的邻接矩阵中，交互密度与邻居质量之间应如何权衡？
• RQ5 用户-用户与物品-物品相关性分量在基于图的推荐中对表征学习有何贡献？

主要发现

• 对于交互少于 3 次的非活跃用户，GraphDA 实现了显著提升，性能增益在 3.7% 至 19.6% 之间，优于最佳基线模型。
• 对于交互超过 7 次的高活跃用户，GraphDA 相较于 LightGCN 性能提升 5.1% 至 67.8%，尤其在 Tools 等噪声较大的数据集中表现突出。
• 引入用户-用户与物品-物品相关性始终能提升推荐质量，但当邻居数量较小时（例如 $UU_k, II_k \leq 10$）增益趋于边际化。
• 移除用户侧邻居（$U_k = 0$）导致性能显著下降，凸显用户级协同信号的重要性。
• 增强后的邻接矩阵在保持或提升性能的同时降低了密度，表明有效去噪与邻居质量提升。
• GraphDA 在所有数据集上均优于 LightGCN、GTN 与 UltraGCN 等强基线模型，证明其去噪与增强流水线的有效性。