[논문 리뷰] Enhancing Sequential Recommendation with Graph Contrastive Learning

Yixin Zhang, Yong Liu외 6명|arXiv (Cornell University)|2022. 05. 30.

Recommender Systems and Techniques인용 수 5

한 줄 요약

이 논문은 모든 사용자 시퀀스에서 유저 간의 아이템 전이 패턴을 캡처하기 위해 가중치가 부여된 아이템 전이 그래프(WITG)를 구성함으로써 순차적 추천을 향상시키는 그래프 대비 학습 프레임워크인 GCL4SR을 제안한다. 상호작용 시퀀스를 WITG에서 유도된 서브그래프로 증강하고, 표현 일관성과 글로벌-로컬 정렬이라는 두 가지 보조 목표를 적용하여 대비 학습을 수행함으로써 GCL4SR은 시퀀스 표현 학습을 크게 향상시키며, 실제 데이터셋에서 최신 기술(SOTA) 성능을 달성한다.

ABSTRACT

The sequential recommendation systems capture users' dynamic behavior patterns to predict their next interaction behaviors. Most existing sequential recommendation methods only exploit the local context information of an individual interaction sequence and learn model parameters solely based on the item prediction loss. Thus, they usually fail to learn appropriate sequence representations. This paper proposes a novel recommendation framework, namely Graph Contrastive Learning for Sequential Recommendation (GCL4SR). Specifically, GCL4SR employs a Weighted Item Transition Graph (WITG), built based on interaction sequences of all users, to provide global context information for each interaction and weaken the noise information in the sequence data. Moreover, GCL4SR uses subgraphs of WITG to augment the representation of each interaction sequence. Two auxiliary learning objectives have also been proposed to maximize the consistency between augmented representations induced by the same interaction sequence on WITG, and minimize the difference between the representations augmented by the global context on WITG and the local representation of the original sequence. Extensive experiments on real-world datasets demonstrate that GCL4SR consistently outperforms state-of-the-art sequential recommendation methods.

연구 동기 및 목표

• 개별 사용자 시퀀스 내의 국소적 맥락에만 의존하는 기존 순차적 추천 모델의 한계를 해결하기 위해.
• 모든 사용자 간의 글로벌 아이템 전이 패턴을 활용하여 사용자 상호작용 시퀀스의 데이터 희소성과 노이즈를 완화하기 위해.
• 그래프 기반의 데이터 증강을 통해 글로벌 맥락을 통합함으로써 시퀀스 표현 학습을 향상시키기 위해.
• 추가 레이블 데이터가 필요 없이도 모델의 일반화 능력과 강건성을 향상시키는 자기지도 학습 프레임워크를 개발하기 위해.

제안 방법

• 모든 사용자 상호작용 시퀀스에서의 아이템 전이 빈도 공존 빈도를 기반으로 가중치가 부여된 아이템 전이 그래프(WITG)를 구성하여 글로벌 전이 패턴을 인코딩하기 위해.
• WITG에서 이웃 샘플링을 수행하여 각 사용자 상호작용 시퀀스에 대해 다수의 증강된 서브그래프 뷰를 생성하기 위해.
• 동일한 시퀀스의 서로 다른 증강 뷰 간 표현 일관성을 최대화하기 위해 그래프 대비 학습을 적용하기 위해.
• WITG에서 유도된 글로벌 맥락 인식 표현과 원본 시퀀스의 로컬 표현 간 정렬을 위해 최대 평균 차이(MMD) 손실을 도입하기 위해.
• 표준 아이템 예측 손실과 두 가지 보조 대비 목표를 조합하여 모델을 엔드 투 엔드로 훈련하기 위해.
• GCL4SR-SAS, GCL4SR-GRU, GCL4SR-HGN 등 다양한 백본 모델에 제안된 그래프 증강 표현 학습 모듈을 통합하여 일반화 능력을 검증하기 위해.

실험 결과

연구 질문

• RQ1 공유된 WITG에서 유도된 글로벌 아이템 전이 패턴을 통합함으로써 순차적 추천에서 시퀀스 표현의 품질을 향상시킬 수 있는가?
• RQ2 동일한 사용자 시퀀스의 증강 뷰 간 대비 학습이 표현의 강건성을 향상시키는 데 얼마나 효과적인가?
• RQ3 글로벌 표현과 로컬 표현 간 MMD 기반 정렬이 추천 성능 향상에 어느 정도 기여하는가?
• RQ4 제안된 프레임워크는 순차적 추천에서 다양한 백본 아키텍처에 대해 일반화되는가?

주요 결과

• GCL4SR은 Poetry 및 Phones 데이터셋 모두에서 기존 SOTA 방법(예: SASRec, GRU4Rec, HGN)을 능가하는 최신 기술 성능을 달성한다.
• 제거 실험 결과, 그래프 대비 학습 손실과 MMD 손실 둘 다 필수적임을 확인하였다. 예를 들어, 그래프 대비 학습 손실을 제거하면 HR@20가 0.2428에서 0.2433으로 떨어진다.
• 전이 빈도를 인코딩하는 WITG 구성 요소는 핵심적이다. 이 요소를 제거하면 성능이 뚜렷이 저하되며, Poetry에서 HR@20가 0.2138로 떨어진다.
• 다양한 백본 인코더에 대해 모델이 강건하다: GCL4SR-SAS, GCL4SR-GRU, GCL4SR-HGN 모두 각각의 기본 모델을 능가한다.
• 하이퍼파rameter 분석 결과, 최적의 성능은 샘플링 깊이 M=4(Poetry) 및 M=3(Phones)에서 나타나며, 임bedding 차원 d=64(Poetry) 및 d=96(Phones)에서 최적이다.
• 더 큰 샘플링 크기 N은 성능 향상에 기여함을 보여주며, 더 rich한 증강이 더 나은 표현 학습을 이끈다.