[论文解读] Contrastive Self-supervised Learning in Recommender Systems: A Survey

Mengyuan Jing, Yanmin Zhu+2 more|arXiv (Cornell University)|Mar 17, 2023

Recommender Systems and Techniques被引用 13

一句话总结

本研究提供了对推荐系统中对比自监督学习（CL）方法的全面综述，提出一个统一框架和分类法，以指导方法选择与设计。

ABSTRACT

Deep learning-based recommender systems have achieved remarkable success in recent years. However, these methods usually heavily rely on labeled data (i.e., user-item interactions), suffering from problems such as data sparsity and cold-start. Self-supervised learning, an emerging paradigm that extracts information from unlabeled data, provides insights into addressing these problems. Specifically, contrastive self-supervised learning, due to its flexibility and promising performance, has attracted considerable interest and recently become a dominant branch in self-supervised learning-based recommendation methods. In this survey, we provide an up-to-date and comprehensive review of current contrastive self-supervised learning-based recommendation methods. Firstly, we propose a unified framework for these methods. We then introduce a taxonomy based on the key components of the framework, including view generation strategy, contrastive task, and contrastive objective. For each component, we provide detailed descriptions and discussions to guide the choice of the appropriate method. Finally, we outline open issues and promising directions for future research.

研究动机与目标

• 为基于 CL 的推荐方法提供统一框架。
• 开发对视图生成、前任务与对比目标的细粒度分类。
• 总结具有代表性的基于 CL 的推荐方法及其设计选择。
• 识别开放问题与未来方向，以激发进一步研究。

提出的方法

• 定义一个通用的基于 CL 的推荐框架，其中通过数据基增广或模型基增广生成 K 个数据视图。
• 按三个组成部分对方法进行分类：视图生成策略、前任务和对比目标。
• 讨论训练策略：联合学习 vs. 预训练与微调（P&F）。
• 对每个组成部分类的选项进行深入分析，以帮助方法选择。
• 在结构化分类法中总结并比较具有代表性的基于 CL 的推荐方法。

实验结果

研究问题

• RQ1 统一对比自监督学习方法用于推荐系统的连贯框架是什么？
• RQ2 如何对基于 CL 的方法进行分类，以指导视图生成、前任务和目标的设计选择？
• RQ3 在基于 CL 的推荐中，联合学习与预训练+微调之间有哪些权衡？
• RQ4 在跨任务与数据类型下，针对选择基于 CL 的推荐方法的组成部分可以给出哪些指导？

主要发现

• 基于 CL 的方法由于模型轻量和设计灵活性，在 SSL 相关的推荐中占主导地位。
• 具有三个组成部分（视图生成、前任务、对比目标）的统一框架能有效组织现有方法。
• 存在两种训练策略：联合学习（JL）和预训练与微调（P&F）；JL 通常在任务特定性能上表现更好，而 P&F 在跨任务的泛化性方面表现更佳。
• 视图生成可以是增强的或非增强的；增强类型包括基于图、基于序列和基于特征的策略。
• 大多数方法在 JL 设置中采用 InfoNCE 作为对比目标；一些工作为特定任务探索 BYOL/GG 的替代方案。