[논문 리뷰] SimpleX: A Simple and Strong Baseline for Collaborative Filtering

Kelong Mao, Jieming Zhu외 5명|arXiv (Cornell University)|2021. 09. 26.

Recommender Systems and Techniques참고 문헌 42인용 수 22

한 줄 요약

이 논문은 새로운 코사인 대비 손실(CCL)과 대규모 음성 샘플링을 활용한 간단하지만 매우 효과적인 협업 필터링 기반 모델인 SimpleX를 제안한다. 간단한 구조임에도 불구하고 NDCG@20 기준 최신 기술(SOTA) 모델보다 최대 48.5% 향상되며, 손실 함수와 음성 샘플링이 모델 아키텍처만큼 CF 성능에 핵심적인 역할을 한다는 점을 입증한다.

ABSTRACT

Collaborative filtering (CF) is a widely studied research topic in recommender systems. The learning of a CF model generally depends on three major components, namely interaction encoder, loss function, and negative sampling. While many existing studies focus on the design of more powerful interaction encoders, the impacts of loss functions and negative sampling ratios have not yet been well explored. In this work, we show that the choice of loss function as well as negative sampling ratio is equivalently important. More specifically, we propose the cosine contrastive loss (CCL) and further incorporate it to a simple unified CF model, dubbed SimpleX. Extensive experiments have been conducted on 11 benchmark datasets and compared with 29 existing CF models in total. Surprisingly, the results show that, under our CCL loss and a large negative sampling ratio, SimpleX can surpass most sophisticated state-of-the-art models by a large margin (e.g., max 48.5% improvement in NDCG@20 over LightGCN). We believe that SimpleX could not only serve as a simple strong baseline to foster future research on CF, but also shed light on the potential research direction towards improving loss function and negative sampling. Our source code will be available at https://reczoo.github.io/SimpleX.

연구 동기 및 목표

• 복잡한 상호작용 인코더에 대한 집중이 높은 데 비해 거의 간과되는 손실 함수와 음성 샘플링의 역할을 협업 필터링(CF)에서 탐구하기 위해.
• 협업 필터링에서 최고 성능을 내기 위해 고도로 복잡한 모델이 반드시 필요하다는 가정을 도전하기 위해.
• 공정하고 강건한 향후 CF 모델 평가를 가능하게 하는 단순하고 효율적이며 강력한 기반 모델을 구축하기 위해.
• 다양한 데이터셋에서 코사인 대비 손실(CCL)과 높은 음성 샘플링 비율의 효과를 경험적으로 검증하기 위해.

제안 방법

• 양성 사용자-아이템 쌍 간의 코사인 유사도를 최대화하고 음성 쌍 간의 유사도를 최소화하는 새로운 코사인 대비 손실(CCL)을 제안하며, 대비를 향상시키기 위해 마진을 도입한다.
• 심층 신경망이나 메시지 전달 기법 없이 사용자 및 아이템 임베딩 검색만을 사용하는 통합적이고 경량의 CF 모델인 SimpleX를 설계한다.
• 학습 안정성과 일반화 성능 향상을 위해 대규모 음성 샘플링 비율(최대 1000:1)을 적용하며, 일반적으로 사용되는 작은 비율(1–10)과 대비된다.
• 사용자 상호작용 아이템 임베딩의 평균 풀링을 통해 사용자 표현을 생성하며, YouTubeNet에서 영감을 받았다.
• 모델 학습 및 추론을 위한 통합된 파이프라인을 구현하여, 분할 간에 오직 아이템 임베딩만 공유함으로써 인덕티브 학습을 지원한다.
• CCL과 표준 음성 샘플링을 결합한 단순한 최적화 목표를 적용하여 높은 학습 효율성(예: 대규모 데이터셋에서 19분)을 달성한다.

실험 결과

연구 질문

• RQ1 동일한 모델 아키텍처를 사용할 때, 다양한 손실 함수가 협업 필터링 성능에 어떤 영향을 미치는가?
• RQ2 다양한 손실 함수에 대해 협업 필터링에서 최적의 음성 샘플링 비율은 무엇인가?
• RQ3 잘 설계된 손실 함수를 가진 단순한 모델이 복잡한 최신 기술(SOTA) 모델을 능가할 수 있는가?
• RQ4 손실 함수와 음성 샘플링 선택이 다양한 데이터셋 간의 일반화 및 강건성에 얼마나 큰 영향을 미치는가?

주요 결과

• 단순한 임베딩 검색과 제안된 CCL 손실만을 사용하는 SimpleX는 벤치마크 데이터셋에서 LightGCN 대비 NDCG@20 기준 최대 48.5% 향상된 성능을 달성한다.
• CCL과 대규모 음성 샘플링 비율(1000:1)의 조합은 작은 음성 샘플링 비율을 사용하는 표준 BPR 손실보다 훨씬 뛰어난 성능을 보인다.
• SimpleX는 GNN 기반 및 오토에코더 기반 모델을 포함한 11개의 벤치마크 데이터셋에서 29개의 최신 기술(SOTA) CF 모델을 일관되게 능가한다.
• 64차원 임베딩조차도 Mult-VAE나 EASE R과 같은 파rameter가 많은 모델보다 재규모화된 수준에서 뛰어난 성능을 보인다.
• SimpleX의 학습 시간은 매우 효율적이며, 대규모 데이터셋에서 단 19분 만에 완료되어 산업적 구현에 적합하다.
• 단지 아이템 임베딩만 공유하는 인덕티브 학습 환경에서도 강력한 성능 유지를 유지한다.