[论文解读] Self-Supervised Graph Co-Training for Session-based Recommendation

Xin Xia, Hongzhi Yin+3 more|arXiv (Cornell University)|Aug 24, 2021

Recommender Systems and Techniques参考文献 58被引用 9

一句话总结

本文提出 COTREC，一种用于会话推荐的自监督图协同训练框架，通过双视角图编码器生成信息丰富的数据增强，而非破坏性的项目丢弃。通过对比学习利用会话内部和外部连接性，COTREC 在基准数据集上实现了最先进性能，优于现有的自监督学习与基于丢弃的方法，尤其在低数据场景下表现更优。

ABSTRACT

Session-based recommendation targets next-item prediction by exploiting user behaviors within a short time period. Compared with other recommendation paradigms, session-based recommendation suffers more from the problem of data sparsity due to the very limited short-term interactions. Self-supervised learning, which can discover ground-truth samples from the raw data, holds vast potentials to tackle this problem. However, existing self-supervised recommendation models mainly rely on item/segment dropout to augment data, which are not fit for session-based recommendation because the dropout leads to sparser data, creating unserviceable self-supervision signals. In this paper, for informative session-based data augmentation, we combine self-supervised learning with co-training, and then develop a framework to enhance session-based recommendation. Technically, we first exploit the session-based graph to augment two views that exhibit the internal and external connectivities of sessions, and then we build two distinct graph encoders over the two views, which recursively leverage the different connectivity information to generate ground-truth samples to supervise each other by contrastive learning. In contrast to the dropout strategy, the proposed self-supervised graph co-training preserves the complete session information and fulfills genuine data augmentation. Extensive experiments on multiple benchmark datasets show that, session-based recommendation can be remarkably enhanced under the regime of self-supervised graph co-training, achieving the state-of-the-art performance.

研究动机与目标

• 为解决会话推荐中的数据稀疏性问题，即短期交互限制了模型性能。
• 克服现有自监督学习方法依赖项目/片段丢弃的局限性，因为这会加剧会话数据的稀疏性。
• 通过基于图的数据增强保留完整会话信息，构建更具信息量的自监督信号。
• 通过在会话图的两个互补视图上使用对比学习进行协同训练，提升推荐性能。
• 在不同会话长度和超参数设置下，验证所提出框架的有效性。

提出的方法

• 构建会话数据的两个不同视图：一个强调会话内部连接性（如序列转移），另一个突出会话间项目交互（如跨会话共现）。
• 在两个视图上分别训练两个独立的图神经网络编码器，以学习捕捉不同结构模式的表示。
• 使用对比学习对齐同一会话在两个视图中的表示，生成相互监督信号。
• 在两个编码器之间施加差异约束，以鼓励一致性并防止协同训练过程中的崩溃。
• 通过超参数 β 控制的加权组合，将自监督损失与主推荐目标整合。
• 采用联合优化策略，交替使用对方生成的伪标签更新两个编码器，实现迭代优化。

Figure 1. An overview of the proposed COTREC framework.

实验结果

研究问题

• RQ1 当通过丢弃进行标准数据增强会加剧稀疏性时，自监督学习能否提升会话推荐性能？
• RQ2 利用双视角图表示（内部与外部会话连接性）是否能提供比单视角或基于丢弃的方法更具信息量的自监督信号？
• RQ3 带有对比学习的协同训练机制如何提升模型在不同会话长度下的泛化能力？
• RQ4 自监督对比损失与主推荐目标之间的最优平衡是什么，由超参数控制？
• RQ5 该框架在模型深度增加时，对过平滑和性能下降的鲁棒性如何？

主要发现

• COTREC 在 Tmall 和 Diginetica 数据集上均实现了最先进性能，优于现有自监督学习与基线模型。
• 在 Tmall 数据集上，COTREC 的 Prec@20 达到 78.9%，显著优于第二名方法（76.3%）。
• 在 Diginetica 数据集上，COTREC 的 Prec@20 达到 68.2%，领先于次优基线超过 2.5 个百分点。
• 模型在不同会话长度下表现出强鲁棒性，尤其在短会话（≤5 项）中表现更优，表明其对真实世界数据的适应能力。
• 最优超参数为 β = 0.05 和 α = 0.005，其中 α 控制两个编码器之间的差异约束。
• 当网络层数超过三层时，性能因过平滑而下降，表明深度与表示质量之间存在权衡。

Figure 2. Ablation Study.