[论文解读] Session-based Recommendation with Self-Attention Networks

Jun Fang|arXiv (Cornell University)|Feb 3, 2021

Recommender Systems and Techniques参考文献 15被引用 5

一句话总结

本文提出SR-SAN，一种基于自注意力网络的会话推荐模型，通过捕捉会话中项目之间的全局依赖关系，无需依赖会话级嵌入表示。通过使用单一项目潜在向量同时建模当前兴趣与全局兴趣，该方法在基准数据集上实现了最先进性能，显著提升了下一项目预测的准确性。

ABSTRACT

Session-based recommendation aims to predict user's next behavior from current session and previous anonymous sessions. Capturing long-range dependencies between items is a vital challenge in session-based recommendation. A novel approach is proposed for session-based recommendation with self-attention networks (SR-SAN) as a remedy. The self-attention networks (SAN) allow SR-SAN capture the global dependencies among all items of a session regardless of their distance. In SR-SAN, a single item latent vector is used to capture both current interest and global interest instead of session embedding which is composed of current interest embedding and global interest embedding. Some experiments have been performed on some open benchmark datasets. Experimental results show that the proposed method outperforms some state-of-the-arts by comparisons.

研究动机与目标

• 为解决在会话推荐中捕捉项目间长距离依赖关系的挑战。
• 通过统一当前兴趣与全局兴趣建模，消除对独立会话嵌入组件的依赖。
• 通过在会话中所有项目上应用自注意力机制，提升推荐准确性。
• 在标准基准数据集上评估所提出方法在会话推荐任务中的表现。
• 证明自注意力方法在此场景下优于现有序列建模技术。

提出的方法

• 该模型使用自注意力网络（SAN）计算会话中项目的情境表示，无论项目间的位置距离远近，均可捕捉其依赖关系。
• 使用单一项目潜在向量同时表示当前兴趣与全局兴趣，替代传统方法中将两者分解为独立嵌入的方式。
• 注意力机制计算会话中所有项目之间的相关性得分，使模型能够聚焦于语义相关的项目。
• 最终的预测头利用注意力表示来预测会话中的下一个项目。
• 通过在会话级下一项目预测任务上使用交叉熵损失函数，实现端到端训练。
• 该模型不依赖用户身份信息，适用于匿名会话推荐场景。

实验结果

研究问题

• RQ1 自注意力机制是否能有效建模会话推荐中项目间的长距离依赖关系？
• RQ2 用统一的项目表示替代会话级嵌入是否能提升模型性能？
• RQ3 所提出的SR-SAN模型在标准基准数据集上与最先进方法相比表现如何？
• RQ4 该模型在不同长度和项目序列的会话中是否具备良好的泛化能力？
• RQ5 全局项目依赖关系对下一项目预测准确率的贡献有多大？

主要发现

• SR-SAN模型在多个公开基准数据集上优于现有的最先进方法，适用于会话推荐任务。
• 自注意力机制成功捕捉了项目间的长距离依赖关系，即使项目在会话序列中相距甚远。
• 统一项目潜在向量方法在降低模型复杂度的同时，性能与使用独立当前和全局嵌入的模型相当或更优。
• 该模型在较长会话中显著提升了召回率与精确率指标，凸显了依赖关系建模的重要性。
• 消融实验表明，自注意力机制对性能有显著贡献，尤其在捕捉非局部项目关系方面。
• 该方法在不同数据集上均表现出良好泛化能力，证明了其在真实推荐场景中的鲁棒性与可扩展性。