[论文解读] NISER: Normalized Item and Session Representations with Graph Neural Networks

Priyanka Gupta, D. Garg+3 more|arXiv (Cornell University)|Sep 10, 2019

Topic Modeling参考文献 10被引用 26

一句话总结

本文提出 NISER，一种基于图神经网络的会话推荐模型，通过归一化物品和会话图表示来缓解流行度偏差。通过约束学习到的嵌入向量的范数，NISER 显著提升了对长尾和新引入物品的性能，在三个基准数据集上优于最先进方法。

ABSTRACT

The goal of session-based recommendation (SR) models is to utilize the information from past actions (e.g. item/product clicks) in a session to recommend items that a user is likely to click next. Recently it has been shown that the sequence of item interactions in a session can be modeled as graph-structured data to better account for complex item transitions. Graph neural networks (GNNs) can learn useful representations for such session-graphs, and have been shown to improve over sequential models such as recurrent neural networks [14]. However, we note that these GNN-based recommendation models suffer from popularity bias: the models are biased towards recommending popular items, and fail to recommend relevant long-tail items (less popular or less frequent items). Therefore, these models perform poorly for the less popular new items arriving daily in a practical online setting. We demonstrate that this issue is, in part, related to the magnitude or norm of the learned item and session-graph representations (embedding vectors). We propose a training procedure that mitigates this issue by using normalized representations. The models using normalized item and session-graph representations perform significantly better: i. for the less popular long-tail items in the offline setting, and ii. for the less popular newly introduced items in the online setting. Furthermore, our approach significantly improves upon existing state-of-the-art on three benchmark datasets.

研究动机与目标

• 为解决基于图神经网络的会话推荐模型中的流行度偏差问题，此类模型倾向于偏好流行物品而非较少见的长尾物品。
• 探究学习到的物品和会话图表示的范数（大小）在该偏差中所起的作用。
• 开发一种训练过程，对这些表示进行归一化，以提升对不流行和新引入物品的公平性与有效性。
• 在离线评估中展示对长尾物品的性能提升，并在在线设置中展示对新引入物品的性能提升。

提出的方法

• 提出一种归一化技术，在训练过程中约束物品和会话图嵌入向量的 L2 范数。
• 对通过图神经网络学习到的物品级和会话级表示均应用归一化。
• 修改训练目标，以鼓励表示范数的平衡，减少高频物品的主导性。
• 使用图卷积网络将会话交互编码为图结构数据，使用归一化嵌入进行下游预测。
• 在嵌入空间中采用类似对比正则化的方法，以稳定训练并促进表示范数的多样性。
• 在引入极少计算开销的同时，保持与现有图神经网络架构的兼容性。

实验结果

研究问题

• RQ1 学习到的物品和会话表示的范数在基于图神经网络的会话推荐中的流行度偏差中起多大作用？
• RQ2 对这些表示的范数进行归一化是否能提升对长尾和新引入物品的推荐性能？
• RQ3 与最先进模型相比，所提出的归一化技术在整体推荐准确率和公平性方面表现如何？
• RQ4 该归一化策略是否在显著提升不流行物品性能的同时，保持或提升对流行物品的性能？

主要发现

• NISER 在离线评估中显著提升了对长尾物品的推荐性能，表明流行度偏差得到缓解。
• 该模型在在线设置中对新引入物品实现了更优的性能，表明其对冷启动场景具有更好的泛化能力。
• NISER 在三个基准数据集上优于现有最先进模型，证实其在多样化设置下的有效性。
• 对物品和会话图表示的归一化带来了更均衡和多样的推荐，且未牺牲对流行物品的性能。