[논문 리뷰] Multi-Component Graph Convolutional Collaborative Filtering

Xiao Wang, Ruijia Wang외 3명|arXiv (Cornell University)|2019. 11. 25.

Recommender Systems and Techniques참고 문헌 27인용 수 8

한 줄 요약

이 논문은 사용자-아이템 상호작용 간선을 여러 잠재적 구성요소로 분해하여 세밀한 사용자 선호도를 포착하는 새로운 그래프 신경망 모델인 다중구성요소 그래프 컨volutional 협업 필터링(MCCF)을 제안한다. 계층적 어텐션 메커니즘을 통해 이러한 구성요소들을 동적으로 가중하고 재결합함으로써 MCCF는 기존 협업 필터링 방법에 비해 추천 정확도를 크게 향상시키며, 특히 다수의 동기가 공존하는 고밀도 데이터셋에서 뚜렷한 성능 향상을 보인다.

ABSTRACT

The interactions of users and items in recommender system could be naturally modeled as a user-item bipartite graph. In recent years, we have witnessed an emerging research effort in exploring user-item graph for collaborative filtering methods. Nevertheless, the formation of user-item interactions typically arises from highly complex latent purchasing motivations, such as high cost performance or eye-catching appearance, which are indistinguishably represented by the edges. The existing approaches still remain the differences between various purchasing motivations unexplored, rendering the inability to capture fine-grained user preference. Therefore, in this paper we propose a novel Multi-Component graph convolutional Collaborative Filtering (MCCF) approach to distinguish the latent purchasing motivations underneath the observed explicit user-item interactions. Specifically, there are two elaborately designed modules, decomposer and combiner, inside MCCF. The former first decomposes the edges in user-item graph to identify the latent components that may cause the purchasing relationship; the latter then recombines these latent components automatically to obtain unified embeddings for prediction. Furthermore, the sparse regularizer and weighted random sample strategy are utilized to alleviate the overfitting problem and accelerate the optimization. Empirical results on three real datasets and a synthetic dataset not only show the significant performance gains of MCCF, but also well demonstrate the necessity of considering multiple components.

연구 동기 및 목표

• 기존 협업 필터링 방법이 모든 사용자-아이템 상호작용을 동일하게 취급하여 다양한 잠재적 구매 동기를 忽略하는 한계를 해결하기 위해.
• 관측된 상호작용 뒤에 있는 다수의 잠재적 구성요소를 식별하고 활용하여 세밀한 사용자 선호도를 모델링하기 위해.
• 자동으로 이러한 구성요소를 분해하고 재결합할 수 있는 엔드 투 엔드 딥 러닝 프레임워크를 개발하기 위해.

제안 방법

• MCCF 프레임워크는 두 핵심 모듈로 구성된다: 각 사용자-아이템 간선을 다수의 잠재적 구성요소로 분해하는 노드 수준 어텐션을 사용하는 디컴포저.
• 구성요소 수준 어텐션을 적용하여 잠재적 구성요소들을 동적으로 가중하고 통합된 사용자 및 아이템 임베딩으로 융합하는 컨비너 모듈.
• 모델의 과적합을 완화하기 위해 과도한 파rameter화를 방지하기 위해 희소 정규화 기법을 적용한다.
• 평가 점수 기반 가중 무작위 샘플링 전략을 사용하여 최적화를 가속화하고 노이즈가 있는 쌍별 레이블을 처리한다.
• 계층적 어텐션 메커니즘을 통해 아이템 특정 수준과 사용자 집계 수준에서 다양한 구성요소의 중요도를 학습한다.
• 전체 프레임워크는 사용자-아이템 이분 그래프에서 엔드 투 엔드로 훈련되어 세밀한 의미 모델링과 함께 공동 표현 학습을 가능하게 한다.

실험 결과

연구 질문

• RQ1 사용자-아이템 상호작용 내 다수의 잠재적 구매 동기를 모델링할 경우, 모든 상호작용을 동일하게 취급하는 것보다 더 나은 추천 성능을 달성할 수 있는가?
• RQ2 그래프 기반 협업 필터링 프레임워크에서 사용자-아이템 상호작용 뒤에 숨겨진 다수의 잠재적 구성요소를 효과적으로 발견하고 표현할 수 있는가?
• RQ3 구성요소의 수가 모델 성능에 어떤 영향을 미치며, 다양한 데이터 희소성 수준에 최적의 구성은 무엇인가?
• RQ4 계층적 어텐션 메커니즘이 학습된 표현에서 다양한 구매 동기의 의미를 얼마나 잘 포착하고 반영할 수 있는가?

주요 결과

• MCCF는 실세계 데이터셋(Yelp, Amazon, MovieLens)과 합성 데이터셋에서 최신 협업 필터링 방법에 비해 뚜렷한 성능 향상을 보였다.
• Amazon과 MovieLens와 같은 고밀도 데이터셋에서는 구성요소 수(K)를 증가시킬수록 최적점까지 성능 향상이 이루어지지만, 이후 과적합으로 인해 성능이 정점에 도달하거나 감소한다.
• Yelp와 같은 희소 데이터셋에서는 단일 구성요소로도 충분하여, 다중구성요소 모델링의 필요성은 데이터 밀도와 평가 점수 분포에 따라 달라진다.
• t-SNE를 활용한 어텐션 가중치 시각화 결과, 모델이 동일한 잠재적 동기를 가진 아이템들을 서로 다른 클러스터로 분류하는 것을 확인하여, 암묵적인 의미를 잘 포착하고 있음을 검증하였다.
• 최적의 구성요소 수(K)는 데이터셋에 따라 다르다: 합성 데이터셋에서는 K=3이 가장 뛰어난 성능을 보였고, Amazon과 MovieLens에서는 K=2 또는 K=3가 최적의 성능을 내었다.
• 임베딩 차원(d)을 증가시킬수록 성능 향상이 이루어지지만, 어느 지점 이후 과적합이 발생함을 확인하여 표현 능력과 모델 복잡도 사이의 상충 관계를 확인하였다.