[论文解读] Socially-Aware Self-Supervised Tri-Training for Recommendation

Junliang Yu, Hongzhi Yin+4 more|arXiv (Cornell University)|Jun 7, 2021

Recommender Systems and Techniques参考文献 52被引用 10

一句话总结

本文提出 SEPT，一种社会感知的自监督三重训练框架，通过利用用户社交关系和用户-物品交互来生成互补视图，从而增强推荐效果。通过在三个图编码器（两个用于伪标签生成，一个用于推荐）之间应用三重训练与对比学习，SEPT 捕获了基于同质性的监督信号，在真实世界数据集上显著优于自监督和基线方法。

ABSTRACT

Self-supervised learning (SSL), which can automatically generate ground-truth samples from raw data, holds vast potential to improve recommender systems. Most existing SSL-based methods perturb the raw data graph with uniform node/edge dropout to generate new data views and then conduct the self-discrimination based contrastive learning over different views to learn generalizable representations. Under this scheme, only a bijective mapping is built between nodes in two different views, which means that the self-supervision signals from other nodes are being neglected. Due to the widely observed homophily in recommender systems, we argue that the supervisory signals from other nodes are also highly likely to benefit the representation learning for recommendation. To capture these signals, a general socially-aware SSL framework that integrates tri-training is proposed in this paper. Technically, our framework first augments the user data views with the user social information. And then under the regime of tri-training for multi-view encoding, the framework builds three graph encoders (one for recommendation) upon the augmented views and iteratively improves each encoder with self-supervision signals from other users, generated by the other two encoders. Since the tri-training operates on the augmented views of the same data sources for self-supervision signals, we name it self-supervised tri-training. Extensive experiments on multiple real-world datasets consistently validate the effectiveness of the self-supervised tri-training framework for improving recommendation. The code is released at https://github.com/Coder-Yu/QRec.

研究动机与目标

• 解决现有自监督学习（SSL）方法在推荐中面临的局限性，即尽管用户-物品交互中普遍存在同质性，却仍将所有非相同节点视为负样本。
• 利用社交关系作为辅助数据源，创建反映用户偏好与社交影响的互补视图。
• 开发一种基于三重训练的 SSL 框架，通过在多个视图中动态生成邻居的伪标签，以改善用户表征学习。
• 通过捕捉相似用户的正样本信号，而非在对比学习中将其视为负样本，来提升推荐性能。
• 在存在辅助信息的真实推荐场景中，证明社会感知多视图学习的有效性。

提出的方法

• 通过用户社交网络增强用户-物品交互图，创建两个额外的数据视图：一个基于用户好友关系，另一个基于物品分享行为。
• 构建三个非对称图编码器：一个用于用户-物品视图（用于推荐），另两个用于从社交视图和分享视图中学习表征并生成伪标签。
• 应用基于邻居判别（neighbor-discrimination）的对比学习，通过其他用户的伪标签引导，对齐不同视图中同一用户的表征。
• 通过边丢弃（edge dropout）动态扰动社交图，生成随机视图，实现在无需人工标注标签的情况下生成自监督信号。
• 通过其他两个编码器的自监督信号，迭代优化所有三个编码器，形成三重训练循环，提升泛化能力。
• 集成温度控制的对比损失，并引入平衡因子 β，以控制自监督三重训练信号对最终推荐模型的影响。

实验结果

研究问题

• RQ1 将社交关系融入自监督学习是否能通过捕捉同质性来改善推荐系统中的表征学习？
• RQ2 所提出的多视图三重训练框架相较于标准自监督对比学习，在推荐性能上表现如何？
• RQ3 每个视图（用户-物品、社交、分享）对整体推荐准确率的贡献是什么？
• RQ4 该框架对超参数（如正样本数量 K 和边丢弃率 ρ）的敏感性如何？
• RQ5 当仅提供部分辅助信息（如仅用户-物品数据）时，该框架是否仍能表现良好？

主要发现

• SEPT 在三个真实世界数据集（LastFM、Yelp 和 Douban-Book）上显著优于最先进的自监督和监督基线方法，包括 LightGCN 和其他基于 SSL 的方法。
• 在 LastFM 和 Yelp 上，使用全部三个视图（用户-物品、社交、分享）时性能最佳，相较于最佳基线，AUC 提升最高达 3.5%，Recall@20 提升最高达 2.8%。
• 在 Douban-Book 上，自监督协同训练设置（两个视图）表现最佳，表明在某些数据集中社交视图的有用性可能较低。
• 消融实验证实，每个视图均对表征学习有积极贡献，其中偏好视图（用户-物品）最为关键，社交视图与分享视图则提供了互补信号。
• 该框架对超参数变化具有鲁棒性：在广泛的边丢弃率（ρ）范围内性能保持稳定，且 β 和 K 的中等取值可实现最优性能。
• 即使仅使用用户-物品视图，SEPT 仍优于 LightGCN，证明了自监督机制在无显式辅助信息时的有效性。