[논문 리뷰] Empowering Collaborative Filtering with Principled Adversarial Contrastive Loss

An Zhang, Leheng Sheng외 3명|arXiv (Cornell University)|2023. 10. 28.

Advanced Technologies in Various Fields인용 수 6

한 줄 요약

이 논문은 협업 필터링을 위한 원칙적인 적대적 대비 손실인 AdvInfoNCE를 제안한다. 이는 부정 샘플의 어려움을 적응적으로 할당하고 세밀한 순위 기준을 강제한다. 적대적 훈련을 통해 어려운 부정 샘플과 잘못된 부정 샘플을 구분함으로써 일반화 능력을 향상시키고, 다양한 벤치마크에서 분포 외 추천 작업에서 최신 기술 수준의 성능을 달성한다. InfoNCE 대비 NDCG에서 최대 24.62%의 상대적 향상이 이루어졌다.

ABSTRACT

Contrastive Learning (CL) has achieved impressive performance in self-supervised learning tasks, showing superior generalization ability. Inspired by the success, adopting CL into collaborative filtering (CF) is prevailing in semi-supervised top-K recommendations. The basic idea is to routinely conduct heuristic-based data augmentation and apply contrastive losses (e.g., InfoNCE) on the augmented views. Yet, some CF-tailored challenges make this adoption suboptimal, such as the issue of out-of-distribution, the risk of false negatives, and the nature of top-K evaluation. They necessitate the CL-based CF scheme to focus more on mining hard negatives and distinguishing false negatives from the vast unlabeled user-item interactions, for informative contrast signals. Worse still, there is limited understanding of contrastive loss in CF methods, especially w.r.t. its generalization ability. To bridge the gap, we delve into the reasons underpinning the success of contrastive loss in CF, and propose a principled Adversarial InfoNCE loss (AdvInfoNCE), which is a variant of InfoNCE, specially tailored for CF methods. AdvInfoNCE adaptively explores and assigns hardness to each negative instance in an adversarial fashion and further utilizes a fine-grained hardness-aware ranking criterion to empower the recommender's generalization ability. Training CF models with AdvInfoNCE, we validate the effectiveness of AdvInfoNCE on both synthetic and real-world benchmark datasets, thus showing its generalization ability to mitigate out-of-distribution problems. Given the theoretical guarantees and empirical superiority of AdvInfoNCE over most contrastive loss functions, we advocate its adoption as a standard loss in recommender systems, particularly for the out-of-distribution tasks. Codes are available at https://github.com/LehengTHU/AdvInfoNCE.

연구 동기 및 목표

• 기존의 대비 학습 방법이 협업 필터링에서 진정한 부정 샘플과 잘못된 부정 샘플을 구분하지 못하는 데서 기인하는 한계를 해결하기 위해.
• 특히 분포 외 설정에서 대비 학습 기반 추천 시스템의 일반화 능력을 향상시키기 위해.
• 세밀한 방식으로 부정 샘플의 어려움을 명시적으로 모델링하는 이론적으로 탄탄한 적응형 대비 손실을 제공하기 위해.
• 상위 K개 추천에서의 노출 편향을 줄이기 위해, 적대적 어려움 할당을 통해 순위 기준을 개선하기 위해.

제안 방법

• 각 부정 항목 j에 대해 어려움 값 δj를 동적으로 할당하는 적대적 훈련을 통합한 수정된 InfoNCE 손실인 AdvInfoNCE를 제안한다.
• δj > 0(어려운 부정 샘플)인 부정 항목은 더 멀리 떨어지도록, δj < 0(잘못된 부정 샘플)인 항목은 제약 압력을 줄이기 위해 세밀한 순위 기준을 도입한다.
• 모델의 현재 예측을 기반으로 반복적으로 어려움 값 δj를 업데이트하는 적대적 최적화 과정을 구현하여 대비 신호의 품질을 향상시킨다.
• 두 단계 훈련 과정을 사용한다: 먼저 기반 모델을 사전 훈련하고, 그 다음에 적대적 훈련을 수행하여 어려움 할당을 정교화하고 대비 손실을 최적화한다.
• 상위 K개 추천 설정에 맞게, 양의 항목과 부정 항목 간의 순위 불일치를 명시적으로 모델링함으로써 대비 손실을 조정한다.
• 학습을 안정화시키기 위해 가속도 조절된 대비 목표 함수를 사용하며, 학습 가능한 온도 τ와 적대적 학습률 lradv를 활용한다.

실험 결과

연구 질문

• RQ1 어려운 부정 샘플과 잘못된 부정 샘플을 더 잘 구분함으로써 대비 학습을 협업 필터링에서 더 효과적으로 만들 수 있는가?
• RQ2 적대적 어려움 할당이 상위 K개 추천에서 대비 학습의 일반화 능력에 어떤 영향을 미치는가?
• RQ3 세밀하고 적응형 순위 기준은 분포 외 설정에서 추천 시스템의 강건성 향상에 기여하는가?
• RQ4 제안된 AdvInfoNCE 손실은 표준 InfoNCE 및 기타 대비 손실과 비교해 성능 및 일반화 능력에서 어떤가?

주요 결과

• Tencent 데이터셋에서 AdvInfoNCE는 InfoNCE 대비 NDCG@20에서 최대 24.62%의 상대적 향상을 보이며, 분포 외 데이터에서 뛰어난 일반화 능력을 입증했다 (γ = 200).
• Tencent 데이터셋에서 AdvInfoNCE는 테스트 세트의 약 70%의 잘못된 부정 샘플을 식별했으며, 이는 성능 향상과 상관관계가 있다 (FN 식별률 기준).
• KuaiRec 데이터셋에서 AdvInfoNCE-mlp는 NDCG@20에서 21.90%의 상대적 향상을 기록하여 다양한 벤치마크에서 일관된 성과 향상을 보였다.
• 제거 분석 결과, 적대적 어려움 할당이 성능 향상에 상당한 기여를 하며, 모든 데이터셋에서 InfoNCE 및 기타 대비 기반 베이스라인을 모두 초월하는 것으로 확인되었다.
• 특히 적대적 학습률 lradv와 적대적 에포크 수 Eadv를 철저히 조정할 경우 하이퍼파rameter 설정에 대해 강건함을 보였다.
• 감소된 부정 샘플링 (N=64) 조건에서도 높은 성능을 유지하여, 최소한의 계산 비용으로도 효율적인 학습이 가능함을 시사했다.