[论文解读] IA-GCN: Interactive Graph Convolutional Network for Recommendation

Yinan Zhang, Pei Wang+8 more|arXiv (Cornell University)|Apr 8, 2022

Recommender Systems and Techniques被引用 9

一句话总结

IA-GCN 提出了一种用于推荐的新型图卷积网络，通过在消息传递过程中引入用户与项目树之间的交互式、目标特定注意力机制，增强了用户和项目表征学习。通过根据邻居与目标项目或用户的相似性动态加权邻居，IA-GCN 提升了偏好预测的准确性，在 Amazon Book 数据集上实现了高达 15% 的相对性能提升，并优于 LightGCN 和 NGCF 等最先进模型。

ABSTRACT

Recently, Graph Convolutional Network (GCN) has become a novel state-of-art for Collaborative Filtering (CF) based Recommender Systems (RS). It is a common practice to learn informative user and item representations by performing embedding propagation on a user-item bipartite graph, and then provide the users with personalized item suggestions based on the representations. Despite effectiveness, existing algorithms neglect precious interactive features between user-item pairs in the embedding process. When predicting a user's preference for different items, they still aggregate the user tree in the same way, without emphasizing target-related information in the user neighborhood. Such a uniform aggregation scheme easily leads to suboptimal user and item representations, limiting the model expressiveness to some extent. In this work, we address this problem by building bilateral interactive guidance between each user-item pair and proposing a new model named IA-GCN (short for InterActive GCN). Specifically, when learning the user representation from its neighborhood, we assign higher attention weights to those neighbors similar to the target item. Correspondingly, when learning the item representation, we pay more attention to those neighbors resembling the target user. This leads to interactive and interpretable features, effectively distilling target-specific information through each graph convolutional operation. Our model is built on top of LightGCN, a state-of-the-art GCN model for CF, and can be combined with various GCN-based CF architectures in an end-to-end fashion. Extensive experiments on three benchmark datasets demonstrate the effectiveness and robustness of IA-GCN.

研究动机与目标

• 为解决基于 GCN 的协同过滤中后期融合的局限性，即用户和项目表征独立聚合，未考虑目标特定交互。
• 通过在图卷积过程中引入用户树与项目树之间的交互引导，改善表征学习，强调与目标项目或用户相关的邻居。
• 通过早期融合用户-项目交互特征，提升模型表达能力、泛化能力及训练收敛性。
• 设计一个可插拔模块，兼容现有基于 GCN 的推荐框架（如 LightGCN），以实现广泛适用性。

提出的方法

• 提出一种双边交互注意力机制，利用项目特定相似性引导用户树聚合，同时利用用户特定相似性引导项目树聚合。
• 应用可学习的注意力权重，优先选择与目标项目相似的用户邻域邻居，反之亦然。
• 通过引入目标感知注意力，修改 GCN 中的消息传递过程，将均匀的邻域聚合替换为动态、上下文敏感的加权机制。
• 使用可学习系数的多层嵌入加权和，更好地捕捉高阶特征，提升表征质量。
• 以 LightGCN 为基础模型，支持端到端训练，并可无缝集成至其他基于 GCN 的推荐架构中。
• 采用双树架构，用户与项目树同步更新，每棵树的聚合过程均受另一棵树目标节点的引导。

实验结果

研究问题

• RQ1 用户与项目树之间的交互引导如何影响基于 GCN 的协同过滤中的表征学习？
• RQ2 目标特定注意力机制是否能通过在消息传递过程中聚焦于相关邻居来提升推荐性能？
• RQ3 通过交互注意力实现用户与项目特征的早期融合，是否能缓解数据稀疏性并提升模型泛化能力？
• RQ4 层组合选择（平均 vs. 加权）对模型性能和特征蒸馏有何影响？
• RQ5 与自注意力或亲和力方法相比，交互注意力在多大程度上能加速训练收敛并增强模型表达能力？

主要发现

• IA-GCN 在 Amazon Book 数据集上的 Recall@20 实现了 15% 的相对性能提升，显著优于当前最先进模型。
• 加权层组合策略在所有数据集上均持续提升性能，尤其在 2 层时，从平均聚合切换为加权聚合，Recall@20 提升了 0.0027。
• IA-GCN 在所有数据集和模型深度下均优于 LightGCN、NGCF 和 SG-GCN，展现出强大的鲁棒性与泛化能力。
• 引入交互注意力可实现更快的收敛速度与更强的模型表达能力，经训练动态与消融实验验证。
• 未引入外部引导的自注意力或亲和力机制（如 NGCF）在模型深度增加时性能下降，表明噪声累积问题。
• 该模型在处理数据稀疏性方面尤为有效，表现为稀疏数据集（如 Amazon Book）上性能增益更显著。