[论文解读] Contextualized Graph Attention Network for Recommendation with Item Knowledge Graph

Susen Yang, Yong Liu+4 more|arXiv (Cornell University)|Apr 24, 2020

Advanced Graph Neural Networks参考文献 18被引用 4

一句话总结

该论文提出了一种上下文图注意力网络（CGAT），这是一种新颖的推荐框架，通过用户特定和物品特定的注意力机制，显式地在物品知识图中建模局部和非局部图上下文。CGAT采用偏差随机游走采样和GRU来捕捉高阶依赖关系，在真实世界数据集上实现了最先进（SOTA）的性能，有效整合了用户偏好与知识图语义。

ABSTRACT

Graph neural networks (GNN) have recently been applied to exploit knowledge graph (KG) for recommendation. Existing GNN-based methods explicitly model the dependency between an entity and its local graph context in KG (i.e., the set of its first-order neighbors), but may not be effective in capturing its non-local graph context (i.e., the set of most related high-order neighbors). In this paper, we propose a novel recommendation framework, named Contextualized Graph Attention Network (CGAT), which can explicitly exploit both local and non-local graph context information of an entity in KG. Specifically, CGAT captures the local context information by a user-specific graph attention mechanism, considering a user's personalized preferences on entities. Moreover, CGAT employs a biased random walk sampling process to extract the non-local context of an entity, and utilizes a Recurrent Neural Network (RNN) to model the dependency between the entity and its non-local contextual entities. To capture the user's personalized preferences on items, an item-specific attention mechanism is also developed to model the dependency between a target item and the contextual items extracted from the user's historical behaviors. Experimental results on real datasets demonstrate the effectiveness of CGAT, compared with state-of-the-art KG-based recommendation methods.

研究动机与目标

• 解决现有基于GNN的推荐方法在知识图中实体上建模用户特定偏好的局限性。
• 显式捕捉知识图中的非局部图上下文（高阶邻居），这些信息常被标准GNN忽略。
• 将用户历史交互数据与知识图上下文相结合，以提升个性化推荐效果。
• 开发一个统一框架，联合建模局部上下文、非局部上下文和用户-物品交互模式。
• 通过在真实世界推荐数据集上的大量实验，验证所提模型的有效性。

提出的方法

• CGAT使用用户特定的图注意力机制，从知识图中的第一阶邻居聚合局部上下文信息，捕捉个性化的用户偏好。
• 采用偏差随机游走采样过程，从整个知识图中提取非局部上下文实体，聚焦于与目标物品相关的高阶邻居。
• 使用门控循环单元（GRU）建模目标实体与其非局部采样上下文实体之间的序列依赖关系，捕捉长距离依赖。
• 引入物品特定的注意力机制，基于用户历史交互物品建模用户偏好，增强个性化程度。
• 通过带正则化项的多任务学习目标，联合优化用户嵌入、物品嵌入和知识图结构。
• 通过可学习的注意力门控机制，将局部和非局部嵌入组合为物品的最终上下文表示。

实验结果

研究问题

• RQ1 在知识图中建模用户对实体的特定偏好是否能提升推荐性能？
• RQ2 非局部（高阶）邻域信息在知识图中能否被有效捕捉并用于推荐？
• RQ3 将用户历史交互上下文与知识图上下文结合，是否能带来更高的推荐准确率？
• RQ4 在基于知识图的推荐中，局部与非局部上下文的相对贡献如何？
• RQ5 关键超参数（如游走长度和采样大小）如何影响模型性能？

主要发现

• CGAT在三个真实世界数据集上优于最先进（SOTA）的基于知识图的推荐方法，HR@20得分最高。
• 消融实验确认，局部和非局部上下文均至关重要，移除任一均导致性能下降。
• 在ML和BC数据集上，CGAT w/o L（无局部上下文）略优于CGAT w/o G（无非局部上下文），表明在某些情况下非局部上下文更具信息量。
• 用户特定图注意力机制（CGAT w/o UA）相比非个性化注意力基线显著提升性能，证明其在建模用户偏好方面的有效性。
• 最优超参数为：邻居采样大小S=4，历史物品数量N=16，路径采样数M=15，路径长度L=4–12，λ₁=10⁻⁴时性能最佳。
• 强制知识图结构一致性的正则化项（λ₁）提升了性能，证实了结构归纳偏置在模型中的价值。