[논문 리뷰] Contrastive Self-supervised Learning in Recommender Systems: A Survey

Mengyuan Jing, Yanmin Zhu외 2명|arXiv (Cornell University)|2023. 03. 17.

Recommender Systems and Techniques인용 수 13

한 줄 요약

이 논문은 추천 시스템에 대한 대조적 자기지도 학습(CL) 방법들을 포괄적으로 검토하고, 방법 선택과 설계를 안내하기 위한 통합 프레임워크와 분류체계를 제시한다.

ABSTRACT

Deep learning-based recommender systems have achieved remarkable success in recent years. However, these methods usually heavily rely on labeled data (i.e., user-item interactions), suffering from problems such as data sparsity and cold-start. Self-supervised learning, an emerging paradigm that extracts information from unlabeled data, provides insights into addressing these problems. Specifically, contrastive self-supervised learning, due to its flexibility and promising performance, has attracted considerable interest and recently become a dominant branch in self-supervised learning-based recommendation methods. In this survey, we provide an up-to-date and comprehensive review of current contrastive self-supervised learning-based recommendation methods. Firstly, we propose a unified framework for these methods. We then introduce a taxonomy based on the key components of the framework, including view generation strategy, contrastive task, and contrastive objective. For each component, we provide detailed descriptions and discussions to guide the choice of the appropriate method. Finally, we outline open issues and promising directions for future research.

연구 동기 및 목표

• CL 기반 추천 방법을 위한 통합 프레임워크를 제공한다.
• 뷰 생성, 사전 작업, 그리고 대조적 목표의 세밀한 분류 체계를 개발한다.
• 대표적인 CL 기반 추천 방법들과 그 설계 선택들을 요약한다.
• 향후 연구를 자극할 수 있는 미해결 이슈와 향후 방향을 식별한다.

제안 방법

• 데이터 기반 또는 모델 기반 증강을 통해 생성된 K개의 데이터 뷰를 갖는 일반적인 CL 기반 추천 프레임워크를 정의한다.
• 뷰 생성 전략, 사전 작업, 대조적 목표의 세 가지 구성요소로 방법을 분류한다.
• 학습 전략: 공동 학습(JL) 대 선행학습 및 미세조정(P&F)을 논의한다.
• 각 구성요소의 옵션에 대한 심층 분석을 제공하여 방법 선택을 안내한다.
• 구조화된 분류체계에서 대표적인 CL 기반 추천 방법을 요약하고 비교한다.

실험 결과

연구 질문

• RQ1 추천 시스템을 위한 대조적 자기지도 학습 방법을 하나로 통합하는 일관된 프레임워크는 무엇인가?
• RQ2 뷰 생성, 사전 작업, 그리고 목표에 대한 설계 선택을 안내하기 위해 CL 기반 방법은 어떻게 분류될 수 있는가?
• RQ3 CL 기반 추천에서 공동 학습과 선행학습+미세조정의 트레이드오프는 무엇인가?
• RQ4 업무와 데이터 유형 전반에 걸쳐 CL 기반 추천 방법의 구성요소를 선택하기 위한 가이드는 무엇인가?

주요 결과

• 가벼운 모델과 유연한 설계로 인해 CL 기반 접근법이 SSL 기반 추천을 지배한다.
• 세 가지 구성요소(뷰 생성, 사전 작업, 대조적 목표)를 가진 통합 프레임워크가 기존 방법들을 효과적으로 정리한다.
• 두 가지 학습 전략이 존재: Joint Learning (JL)와 Pre-training & Fine-tuning (P&F); JL은 종종 작업별 성능이 더 좋고, P&F는 작업 간 일반화에 더 잘 제공한다.
• 뷰 생성을 증강될 수도 있고 비증강일 수도 있다; 증강 유형으로는 그래프 기반, 시퀀스 기반, 특징 기반 전략이 있다.
• 대부분의 방법은 JL 설정에서 InfoNCE를 대조적 목표로 채택하며; 일부 연구는 특정 작업을 위해 BYOL/GG 대안을 탐색한다.