[논문 리뷰] Self-Supervised Graph Co-Training for Session-based Recommendation

Xin Xia, Hongzhi Yin외 3명|arXiv (Cornell University)|2021. 08. 24.

Recommender Systems and Techniques참고 문헌 58인용 수 9

한 줄 요약

이 논문은 파라미터를 파라미터로 사용하는 자기지도 학습 그래프 공훈련 프레임워크인 COTREC을 제안한다. 이는 파라미터를 사용하는 대신 이중 시각 그래프 인코더를 통해 정보적인 데이터 증강을 생성함으로써 세션 기반 추천에 대해 최신 기술 성능을 달성한다. 대조 학습을 통해 내부 및 외부 세션 연결성을 활용함으로써 COTREC는 기준 데이터셋에서 최신 기술 성능을 달성하며, 특히 데이터가 적은 환경에서 기존의 SSL 및 드롭아웃 기반 방법들을 능가한다.

ABSTRACT

Session-based recommendation targets next-item prediction by exploiting user behaviors within a short time period. Compared with other recommendation paradigms, session-based recommendation suffers more from the problem of data sparsity due to the very limited short-term interactions. Self-supervised learning, which can discover ground-truth samples from the raw data, holds vast potentials to tackle this problem. However, existing self-supervised recommendation models mainly rely on item/segment dropout to augment data, which are not fit for session-based recommendation because the dropout leads to sparser data, creating unserviceable self-supervision signals. In this paper, for informative session-based data augmentation, we combine self-supervised learning with co-training, and then develop a framework to enhance session-based recommendation. Technically, we first exploit the session-based graph to augment two views that exhibit the internal and external connectivities of sessions, and then we build two distinct graph encoders over the two views, which recursively leverage the different connectivity information to generate ground-truth samples to supervise each other by contrastive learning. In contrast to the dropout strategy, the proposed self-supervised graph co-training preserves the complete session information and fulfills genuine data augmentation. Extensive experiments on multiple benchmark datasets show that, session-based recommendation can be remarkably enhanced under the regime of self-supervised graph co-training, achieving the state-of-the-art performance.

연구 동기 및 목표

• 짧은 상호작용으로 인해 모델 성능이 제한되는 세션 기반 추천에서의 데이터 희소성 문제를 해결하기 위해.
• 기존 자기지도 학습 방법이 항목/세그먼트 드롭아웃에 의존함으로써 세션 데이터의 희소성을 악화시키는 한계를 극복하기 위해.
• 그래프 기반 데이터 증강을 통해 전체 세션 정보를 유지함으로써 더 정보적인 자기지도 신호를 개발하기 위해.
• 세션 그래프의 두 상호 보완적인 시각에서 대조 학습을 사용한 공훈련을 통해 추천 성능을 향상시키기 위해.
• 다양한 세션 길이 및 하이퍼파라미터 설정에서 제안된 프레임워크의 효과성을 입증하기 위해.

제안 방법

• 세션 데이터의 두 개의 서로 다른 시각을 구성하기: 하나는 내부 세션 연결성(예: 순차적 전이)을 강조하고, 다른 하나는 외부 세션-아이템 상호작용(예: 세션 간 공존)을 강조한다.
• 이 두 시각에 대해 별도의 그래프 신경망 인코더를 훈련시켜 서로 다른 구조적 패턴을 포착하는 표현을 학습한다.
• 동일한 세션의 두 시각 간 표현을 정렬하기 위해 대조 학습을 사용하여 상호 보조 신호를 생성한다.
• 공훈련 중에 붕괴를 방지하고 일관성을 유도하기 위해 두 인코더 간의 산란 제약 조건을 적용한다.
• 하이퍼파rameter β에 의해 제어되는 가중 조합을 통해 자기지도 손실을 주 추천 목표와 통합한다.
• 다른 인코더에서 생성된 의사 레이블을 사용해 번갈아가며 두 인코더를 업데이트하는 공동 최적화 전략을 사용하여 반복적 개선을 가능하게 한다.

Figure 1. An overview of the proposed COTREC framework.

실험 결과

연구 질문

• RQ1 기본적인 드롭아웃 기반 데이터 증강이 세션 데이터의 희소성을 악화시키는 상황에서, 자기지도 학습이 세션 기반 추천 성능 향상에 기여할 수 있는가?
• RQ2 내부 및 외부 세션 연결성을 모두 고려한 이중 시각 그래프 표현이 단일 시각 또는 드롭아웃 기반 방법보다 더 정보적인 자기지도 신호를 제공하는가?
• RQ3 대조 학습을 사용한 공훈련 메커니즘이 다양한 세션 길이에 걸쳐 모델 일반화 능력을 향상시키는가?
• RQ4 하이퍼파라미터에 의해 제어되는 자기지도 대조 손실과 주 추천 목표 간의 최적 균형은 무엇인가?
• RQ5 모델 깊이가 증가함에 따라 과도한 스무딩과 성능 저하에 대해 제안된 프레임워크는 얼마나 강인한가?

주요 결과

• COTREC는 Tmall 및 Diginetica 데이터셋 모두에서 최신 기술 성능을 달성하며, 기존 자기지도 및 베이스라인 모델을 능가한다.
• Tmall에서 COTREC는 Prec@20가 78.9%를 기록하여 두 번째로 좋은 방법(76.3%)을 크게 앞서며 성능을 뛰어넘었다.
• Diginetica에서 COTREC는 Prec@20가 68.2%를 기록하여 다음으로 좋은 베이스라인보다 2.5퍼센트 포인트 이상 높았다.
• 짧은 세션(≤5개 항목)에서도 뛰어난 성능을 보이며, 실제 데이터에 대한 적응성을 입증했다.
• 최적의 하이퍼파라미터는 β = 0.05 및 α = 0.005이며, 여기서 α는 두 인코더 간의 산란 제약 조건을 제어한다.
• 세션 길이가 3층 이상이 되면 과도한 스무딩으로 인해 성능이 저하됨을 확인하여 깊이와 표현 품질 사이의 상충 관계를 보였다.

Figure 2. Ablation Study.