[论文解读] Empowering Collaborative Filtering with Principled Adversarial Contrastive Loss

An Zhang, Leheng Sheng+3 more|arXiv (Cornell University)|Oct 28, 2023

Advanced Technologies in Various Fields被引用 6

一句话总结

本文提出 AdvInfoNCE，一种用于协同过滤的合理对抗对比损失，可自适应地为负样本分配难度，并强制执行细粒度排序标准。通过对抗训练区分困难负样本与虚假负样本，AdvInfoNCE 提升了泛化能力，并在多个基准测试中实现了分布外推荐任务的最先进性能，相较于 InfoNCE，NDCG 最高提升达 24.62%。

ABSTRACT

Contrastive Learning (CL) has achieved impressive performance in self-supervised learning tasks, showing superior generalization ability. Inspired by the success, adopting CL into collaborative filtering (CF) is prevailing in semi-supervised top-K recommendations. The basic idea is to routinely conduct heuristic-based data augmentation and apply contrastive losses (e.g., InfoNCE) on the augmented views. Yet, some CF-tailored challenges make this adoption suboptimal, such as the issue of out-of-distribution, the risk of false negatives, and the nature of top-K evaluation. They necessitate the CL-based CF scheme to focus more on mining hard negatives and distinguishing false negatives from the vast unlabeled user-item interactions, for informative contrast signals. Worse still, there is limited understanding of contrastive loss in CF methods, especially w.r.t. its generalization ability. To bridge the gap, we delve into the reasons underpinning the success of contrastive loss in CF, and propose a principled Adversarial InfoNCE loss (AdvInfoNCE), which is a variant of InfoNCE, specially tailored for CF methods. AdvInfoNCE adaptively explores and assigns hardness to each negative instance in an adversarial fashion and further utilizes a fine-grained hardness-aware ranking criterion to empower the recommender's generalization ability. Training CF models with AdvInfoNCE, we validate the effectiveness of AdvInfoNCE on both synthetic and real-world benchmark datasets, thus showing its generalization ability to mitigate out-of-distribution problems. Given the theoretical guarantees and empirical superiority of AdvInfoNCE over most contrastive loss functions, we advocate its adoption as a standard loss in recommender systems, particularly for the out-of-distribution tasks. Codes are available at https://github.com/LehengTHU/AdvInfoNCE.

研究动机与目标

• 为解决现有对比学习方法在协同过滤中的局限性，特别是无法区分虚假负样本与真实负样本的问题。
• 提升基于对比学习的推荐系统在分布外设置下的泛化能力。
• 提供一种理论基础坚实、自适应的对比损失，以细粒度方式显式建模负样本的难度。
• 通过对抗难度分配优化排序标准，减少半监督 Top-K 推荐中的暴露偏差。

提出的方法

• 提出 AdvInfoNCE，一种改进的 InfoNCE 损失，通过引入对抗训练，为每个负样本 j 动态分配难度值 δj。
• 引入细粒度排序标准：对 δj > 0 的负样本（困难负样本）施加更强的分离约束，而对 δj < 0 的负样本（虚假负样本）则放松约束以减轻压力。
• 采用对抗优化过程，基于模型当前预测结果迭代更新难度值 δj，从而提升对比信号质量。
• 采用两阶段训练流程：首先预训练主干模型，然后进行对抗训练以优化难度分配并最小化对比损失。
• 通过显式建模正负样本之间的排序差异，将对比损失适配到 Top-K 推荐设置。
• 采用温度缩放的对比目标，引入可学习温度 τ 和对抗学习率 lradv，以稳定训练过程。

实验结果

研究问题

• RQ1 如何通过更好地区分困难负样本与虚假负样本，使对比学习在协同过滤中更有效？
• RQ2 对抗难度分配对 Top-K 推荐中对比学习泛化能力的影响是什么？
• RQ3 细粒度、自适应的排序标准是否能提升推荐系统在分布外设置下的鲁棒性？
• RQ4 与标准 InfoNCE 及其他对比损失相比，所提出的 AdvInfoNCE 损失在性能和泛化能力方面表现如何？

主要发现

• 在 Tencent 数据集上（γ = 200），AdvInfoNCE 相较于 InfoNCE 在 NDCG@20 上最高实现 24.62% 的相对提升，表明其在分布外数据上具有强大的泛化能力。
• 在 Tencent 数据集上，AdvInfoNCE 识别出测试集中约 70% 的虚假负样本（由 FN 识别率指标反映），该比例与性能提升密切相关。
• 在 KuaiRec 数据集上，AdvInfoNCE-mlp 模型在 NDCG@20 上实现 21.90% 的相对提升，表明其在多样化基准上均保持一致的性能增益。
• 消融实验证实，对抗难度分配显著提升性能，AdvInfoNCE 在所有数据集上均优于 InfoNCE 及其他对比基线方法。
• 该方法对超参数设置具有鲁棒性，尤其当对抗学习率 lradv 和对抗训练轮数 Eadv 经过仔细调优后表现更优。
• 即使在减少负采样数量（N=64）的情况下，模型仍保持高性能，表明其具备高效的计算效率。