[论文解读] Pairwise Interactive Graph Attention Network for Context-Aware Recommendation

Yahui Liu, Furao Shen+1 more|arXiv (Cornell University)|Nov 18, 2019

Recommender Systems and Techniques参考文献 24被引用 5

一句话总结

该论文提出 PIGAT，一种基于图神经网络（GNN）的模型，通过使用动态用户-物品交互图（DIG）和成对交互图注意力机制，联合捕捉上下文感知推荐中的用户兴趣与物品吸引力。通过引入交互顺序的置信度嵌入并采用可学习的注意力机制，PIGAT 显著提升了性能，尤其在长尾物品上表现突出，在三个真实世界数据集上超越了当前最先进模型。

ABSTRACT

Context-aware recommender systems (CARS), which consider rich side information to improve recommendation performance, have caught more and more attention in both academia and industry. How to predict user preferences from diverse contextual features is the core of CARS. Several recent models pay attention to user behaviors and use specifically designed structures to extract adaptive user interests from history behaviors. However, few works take item history interactions into consideration, which leads to the insufficiency of item feature representation and item attraction extraction. From these observations, we model the user-item interaction as a dynamic interaction graph (DIG) and proposed a GNN-based model called Pairwise Interactive Graph Attention Network (PIGAT) to capture dynamic user interests and item attractions simultaneously. PIGAT introduces the attention mechanism to consider the importance of each interacted user/item to both the user and the item, which captures user interests, item attractions and their influence on the recommendation context. Moreover, confidence embeddings are applied to interactions to distinguish the confidence of interactions occurring at different times. Then more expressive user/item representations and adaptive interaction features are generated, which benefits the recommendation performance especially when involving long-tail items. We conduct experiments on three real-world datasets to demonstrate the effectiveness of PIGAT.

研究动机与目标

• 为解决现有上下文感知推荐系统在捕捉历史交互中物品吸引力方面的局限性。
• 通过基于图的方法，同时建模动态用户兴趣与物品吸引力。
• 通过结合随时间变化的交互置信度，改进长尾物品的表征学习。
• 设计一种 GNN 架构，从用户和物品两个视角联合建模用户-物品交互的重要性。

提出的方法

• 构建一个动态用户-物品交互图（DIG），其中每条有向边均带有时间戳标签，表示交互顺序。
• 应用成对交互图注意力机制，计算两个注意力分数：对头部用户/物品的重要性，以及对推荐上下文的重要性。
• 使用置信度嵌入建模交互的时间置信度，采用一种新颖的初始化策略以提升训练稳定性和有效性。
• 采用加权求和池化机制，基于注意力分数聚合邻居表征，生成具有表现力的用户和物品表征。
• 使用多层前馈网络（FFN）作为注意力函数，其性能优于点积和缩放点积注意力。
• 将交互表征生成器集成到 GNN 框架中，通过在 DIG 上的消息传递机制，进一步优化用户和物品嵌入。

实验结果

研究问题

• RQ1 通过有向二分图建模动态用户-物品交互，能否提升上下文感知推荐的性能？
• RQ2 通过注意力机制联合捕捉用户兴趣与物品吸引力，是否能带来更优的表征学习？
• RQ3 基于时间顺序的交互置信度建模，对模型性能有何影响，尤其是在长尾物品上？
• RQ4 可学习的置信度嵌入是否比固定、位置或随机嵌入更有效于建模交互重要性？
• RQ5 使用更深层的注意力函数（如 FFN-3）是否能比简单注意力机制更好地捕捉高阶关系？

主要发现

• PIGAT 在三个真实世界数据集（Books、Electronics 和 Byte-Rec）上均达到最先进性能，F1 分数分别为 0.7694、0.7033 和 0.7422。
• 动态交互图（DIG）在 Books 上比静态图提升 0.0010 F1，Electronics 上提升 0.0073，Byte-Rec 上提升 0.0188，证明建模时间动态性的必要性。
• 置信度嵌入（CE）表现最佳，优于基线变体（None：-0.0010，PE：-0.0067，FCE：-0.0013，RCE：-0.0009）在 Byte-Rec 数据集上的表现。
• 采用三层前馈网络（FFN-3）作为注意力函数时性能最高，表明高阶交互对表征学习有益。
• PIGAT 在长尾物品（k=3）上表现出最显著的性能提升，证实其在改善稀有物品表征方面的有效性。
• 消融实验表明，置信度嵌入与注意力机制均为关键组件，CE 在所有数据集上均带来一致性能提升。