[論文レビュー] Empowering Collaborative Filtering with Principled Adversarial Contrastive Loss

An Zhang, Leheng Sheng+3 more|arXiv (Cornell University)|Oct 28, 2023

Advanced Technologies in Various Fields被引用数 6

ひとこと要約

本稿では、負例の難易度を動的に割り当てるとともに、細粒度のランク付け基準を強制することで、協調フィルタリングに適した一貫性のある敵対的対照学習損失であるAdvInfoNCEを提案する。敵対的訓練により、難易度の高い負例（hard negatives）と誤った負例（false negatives）を区別することで、一般化性能が向上し、複数のベンチマークにおいて分布外推薦タスクで最先端の性能を達成する。InfoNCEに対してNDCGで最大24.62%の相対的改善を達成した。

ABSTRACT

Contrastive Learning (CL) has achieved impressive performance in self-supervised learning tasks, showing superior generalization ability. Inspired by the success, adopting CL into collaborative filtering (CF) is prevailing in semi-supervised top-K recommendations. The basic idea is to routinely conduct heuristic-based data augmentation and apply contrastive losses (e.g., InfoNCE) on the augmented views. Yet, some CF-tailored challenges make this adoption suboptimal, such as the issue of out-of-distribution, the risk of false negatives, and the nature of top-K evaluation. They necessitate the CL-based CF scheme to focus more on mining hard negatives and distinguishing false negatives from the vast unlabeled user-item interactions, for informative contrast signals. Worse still, there is limited understanding of contrastive loss in CF methods, especially w.r.t. its generalization ability. To bridge the gap, we delve into the reasons underpinning the success of contrastive loss in CF, and propose a principled Adversarial InfoNCE loss (AdvInfoNCE), which is a variant of InfoNCE, specially tailored for CF methods. AdvInfoNCE adaptively explores and assigns hardness to each negative instance in an adversarial fashion and further utilizes a fine-grained hardness-aware ranking criterion to empower the recommender's generalization ability. Training CF models with AdvInfoNCE, we validate the effectiveness of AdvInfoNCE on both synthetic and real-world benchmark datasets, thus showing its generalization ability to mitigate out-of-distribution problems. Given the theoretical guarantees and empirical superiority of AdvInfoNCE over most contrastive loss functions, we advocate its adoption as a standard loss in recommender systems, particularly for the out-of-distribution tasks. Codes are available at https://github.com/LehengTHU/AdvInfoNCE.

研究の動機と目的

• 既存の対照学習手法が、真の負例（true negatives）と誤った負例（false negatives）を区別できないという限界を是正すること。
• 特に分布外設定下において、対照学習に基づくレコメンデーションシステムの一般化能力を向上させること。
• 負例の難易度を細粒度で明示的にモデル化する理論的根拠に基づいた、適応的対照学習損失を提供すること。
• 敵対的難易度割り当てによるランク付け基準の見直しを通じて、半教師ありトップ-K推薦における露出バイアスを低減すること。

提案手法

• 各負例アイテムjに対して難易度値δjを動的に割り当てる敵対的訓練を組み込んだ、変更されたInfoNCE損失であるAdvInfoNCEを提案する。
• δj > 0（難易度の高い負例）の負例は互いにさらに引き離され、δj < 0（誤った負例）の負例は緩和されて制約の圧力を軽減する、細粒度のランク付け基準を導入する。
• モデルの現在の予測に基づいて反復的に難易度値δjを更新する敵対的最適化プロセスを採用し、対照信号の質を向上させる。
• 2段階の訓練プロセスを採用：まずバックボーンモデルを事前学習し、その後敵対的訓練を実施して難易度割り当てを精緻化し、対照学習損失を最適化する。
• 正例と負例のランク差を明示的にモデル化することで、トップ-K推薦設定に適応した対照学習損失を構築する。
• 温度スケーリングされた対照的目的関数を採用し、学習可能な温度τと敵対的学習率lradvを用いて訓練を安定化させる。

実験結果

リサーチクエスチョン

• RQ1 難易度の高い負例と誤った負例をより明確に区別することで、協調フィルタリングにおける対照学習の有効性をどのように向上させられるか？
• RQ2 敵対的難易度割り当ては、トップ-K推薦における対照学習の一般化能力にどのような影響を与えるか？
• RQ3 細粒度で適応的なランク付け基準は、分布外設定下でのレコメンデーションシステムのロバスト性を向上させられるか？
• RQ4 標準的なInfoNCEおよび他の対照学習損失と比較して、提案されたAdvInfoNCE損失は性能および一般化能力においてどのように差をつけるか？

主な発見

• Tencentデータセット（γ = 200）において、AdvInfoNCEはInfoNCE比でNDCG@20で最大24.62%の相対的改善を達成し、分布外データにおける強力な一般化性能を示した。
• Tencentデータセットでは、FN識別率が示すように、テストセットの約70%の誤った負例がAdvInfoNCEで特定された。この識別率は性能向上と相関していた。
• KuaiRecデータセットでは、AdvInfoNCE-mlpモデルがNDCG@20で21.90%の相対的改善を達成し、多様なベンチマークで一貫した向上を示した。
• アブレーションスタディの結果、敵対的難易度割り当てが性能向上に顕著に寄与することが確認され、すべてのデータセットでInfoNCEおよび他の対照学習ベースラインを上回った。
• ハイパーパrameter設定に対してロバストであることが示され、特に敵対的学習率lradvと敵対的エポック数Eadvを適切にチューニングした場合に顕著だった。
• 負例サンプリング数を減らしても（N=64）高い性能を維持したため、計算コストを最小限に抑えた効率的な学習が可能であることが示された。