[论文解读] Inter-sequence Enhanced Framework for Personalized Sequential Recommendation

Feng Liu, Weiwen Liu+2 more|arXiv (Cornell University)|Apr 25, 2020

Recommender Systems and Techniques参考文献 28被引用 6

一句话总结

本文提出 ISSR，一种用于个性化序列推荐的新框架，通过在用户-物品二分图和物品-物品共现图上使用图神经网络（GNNs），显式建模序列内与序列间物品的相关性。通过结合 GNN 以捕捉高阶序列间依赖关系，并与 GRU 和注意力网络联合建模序列内动态，ISSR 在三个真实世界数据集上实现了最先进性能，Recall@10 相比强基线最高提升 25.0%。

ABSTRACT

Modeling the sequential correlation of users' historical interactions is essential in sequential recommendation. However, the majority of the approaches mainly focus on modeling the \emph{intra-sequence} item correlation within each individual sequence but neglect the \emph{inter-sequence} item correlation across different user interaction sequences. Though several studies have been aware of this issue, their method is either simple or implicit. To make better use of such information, we propose an inter-sequence enhanced framework for the Sequential Recommendation (ISSR). In ISSR, both inter-sequence and intra-sequence item correlation are considered. Firstly, we equip graph neural networks in the inter-sequence correlation encoder to capture the high-order item correlation from the user-item bipartite graph and the item-item graph. Then, based on the inter-sequence correlation encoder, we build GRU network and attention network in the intra-sequence correlation encoder to model the item sequential correlation within each individual sequence and temporal dynamics for predicting users' preferences over candidate items. Additionally, we conduct extensive experiments on three real-world datasets. The experimental results demonstrate the superiority of ISSR over many state-of-the-art methods and the effectiveness of the inter-sequence correlation encoder.

研究动机与目标

• 解决现有序列推荐方法主要关注序列内物品相关性，而忽略不同用户交互序列间相关性的局限性。
• 通过在结构化的用户-物品和物品-物品交互图上使用图神经网络，显式建模高阶序列间物品相关性。
• 将序列间与序列内建模整合到统一框架中，以提升个性化序列推荐的准确性。
• 通过实证验证序列间相关性编码在多种数据集和推荐基线上的有效性。

提出的方法

• 序列间相关性编码器在用户-物品二分图和物品-物品共现图上应用图神经网络，以捕捉不同用户序列间的高阶物品相关性。
• 序列内相关性编码器结合 GRU 和多头注意力机制，以建模单个用户交互序列内的序列依赖关系和时间动态。
• 物品嵌入首先通过两个图上的 GNN 进行增强，然后输入到 GRU-注意力模块中进行用户兴趣表征学习。
• 最终的预测头利用用户学习到的兴趣表征，从候选集预测下一个最可能的物品。
• 该框架通过负采样和标准推荐损失函数进行端到端训练。
• 消融研究评估了各组件的贡献，包括二分图和共现图，采用基于 MF 的变体和单图编码器等配置。

实验结果

研究问题

• RQ1 在不同用户交互序列间建模物品相关性是否能提升序列推荐性能？
• RQ2 不同的图结构（用户-物品二分图 vs. 物品-物品共现图）在捕捉高阶序列间相关性方面有何贡献？
• RQ3 将序列间相关性编码集成到现有的 RNN、CNN 和注意力机制序列推荐模型中，能带来多大程度的性能提升？
• RQ4 在所提框架中，物品嵌入的最优维度是多少，以在模型容量与性能之间实现平衡？

主要发现

• ISSR 在三个真实世界数据集上均达到最先进性能，在 Recall、nDCG、HR 和 MRR 指标上均优于多个 SOTA 方法。
• 在 MovieLens (1M) 数据集上，将序列间相关性编码器加入 GRU4Rec 后，Recall@10 最高提升 25.0%；加入 SASRec 提升 14.8%；加入 Caser 提升 9.0%。
• 双图 GNN 编码器（二分图 + 共现图）优于单图和基于 MF 的基线，ISSR 在 MovieLens (1M) 上达到 0.1563 Recall@10，在 Steam 上达到 0.0872。
• 用户-物品二分图和物品-物品共现图对性能的贡献几乎相当，两者结合可获得最佳结果。
• 模型性能在嵌入维度 d=64 时达到峰值，此后进一步增加维度不再带来收益，甚至因模型容量饱和导致轻微下降。
• 消融研究证实，序列间建模不可或缺，因为仅使用序列内建模的变体性能显著低于所有其他配置。