[논문 리뷰] Beyond Clicks: Modeling Multi-Relational Item Graph for Session-Based Target Behavior Prediction

Wen Wang, Wei Zhang외 5명|arXiv (Cornell University)|2020. 02. 19.

Recommender Systems and Techniques참고 문헌 34인용 수 6

한 줄 요약

이 논문은 다중 행동 유형(예: 클릭, 구매) 간의 글로벌 아이템-아이템 관계를 모델링하는 다중관계 그래프 신경망 MGNN-SPred를 제안한다. 이를 통해 세션 기반 타겟 행동 예측 성능을 향상시킨다. 다중관계 아이템 그래프(MRIG)를 구성하고, 타겟 행동 및 보조 행동의 표현을 융합하기 위한 게이팅 메커니즘을 사용함으로써 MGNN-SPred는 두 개의 실세계 데이터셋에서 최신 기술(SOTA) 성능을 달성하며, 구매와 같은 희박하지만 중요한 행동 데이터를 활용하는 가치를 입증한다.

ABSTRACT

Session-based target behavior prediction aims to predict the next item to be interacted with specific behavior types (e.g., clicking). Although existing methods for session-based behavior prediction leverage powerful representation learning approaches to encode items' sequential relevance in a low-dimensional space, they suffer from several limitations. Firstly, they focus on only utilizing the same type of user behavior for prediction, but ignore the potential of taking other behavior data as auxiliary information. This is particularly crucial when the target behavior is sparse but important (e.g., buying or sharing an item). Secondly, item-to-item relations are modeled separately and locally in one behavior sequence, and they lack a principled way to globally encode these relations more effectively. To overcome these limitations, we propose a novel Multi-relational Graph Neural Network model for Session-based target behavior Prediction, namely MGNN-SPred for short. Specifically, we build a Multi-Relational Item Graph (MRIG) based on all behavior sequences from all sessions, involving target and auxiliary behavior types. Based on MRIG, MGNN-SPred learns global item-to-item relations and further obtains user preferences w.r.t. current target and auxiliary behavior sequences, respectively. In the end, MGNN-SPred leverages a gating mechanism to adaptively fuse user representations for predicting next item interacted with target behavior. The extensive experiments on two real-world datasets demonstrate the superiority of MGNN-SPred by comparing with state-of-the-art session-based prediction methods, validating the benefits of leveraging auxiliary behavior and learning item-to-item relations over MRIG.

연구 동기 및 목표

• 기존 세션 기반 추천 모델이 타겟 행동 시퀀스에만 의존하고 보조 행동 데이터를 忽시하는 한계를 해결하기 위해.
• 다양한 행동 유형 간 아이템 간 관계를 전역적으로 원리적으로 표현할 수 있는 방법의 부재를 해결하기 위해.
• 더 rich한 행동 신호를 활용하여 희박하지만 중요한 타겟 행동(예: 구매, 공유)의 예측 정확도를 향상시키기 위해.
• 그래프 신경망을 사용하여 타겟 행동 및 보조 행동 시퀀스의 사용자 선호도를 통합적으로 모델링하는 통합 프레임워크를 개발하기 위해.

제안 방법

• 사용자 행동 시퀀스 전부에서 다중관계 아이템 그래프(MRIG)를 구성하며, 노드는 아이템을 나타내고, 간선은 다양한 행동 유형(예: 클릭, 구매)을 나타낸다.
• 그래프 신경망(GNN)을 사용하여 MRIG 내에서 표현을 전파함으로써 전역적으로 고차원의 아이템 간 관계를 캐릭터라이즈한다.
• MRIG 내의 별도 서브그래프를 사용하여 타겟 행동 및 보조 행동 시퀀스에 대한 별도의 사용자 선호도 표현을 학습한다.
• 학습 가능한 게이팅 메커니즘을 적용하여 타겟 및 보조 행동 표현을 적응적으로 융합하여 통합된 사용자 선호도 벡터를 생성한다.
• 크로스 엔트로피 손실을 사용하여 타겟 행동 시퀀스의 다음 아이템을 예측할 수 있도록 모델을 엔드 투 엔드로 훈련한다.

Figure 1. The architecture of our model. We use a toy MRIG and two current behavior sequences as input. The number of recommended items is set to 2.

실험 결과

연구 질문

• RQ1 보조 행동 시퀀스(예: 클릭)를 통합함으로써 희박한 타겟 행동(예: 구매)의 예측 성능 향상이 가능한가?
• RQ2 다양한 행동 유형 간 전역적인 아이템 간 관계를 모델링하는 것이 국소적이고 행동 시퀀스에 특화된 모델링보다 더 나은 세션 기반 추천을 이끌 수 있는가?
• RQ3 제안된 게이팅 메커니즘이 타겟 및 보조 행동 시퀀스 표현을 융합하는 데 얼마나 효과적인가?
• RQ4 GNN의 깊이 및 시퀀스 길이가 제안된 프레임워크 내에서 모델 성능에 어떤 영향을 미치는가?

주요 결과

• MGNN-SPred는 WeChat 및 YooChoose 데이터셋에서 모두 최신 기술(SOTA) 성능을 달성하며, H@100, M@100, N@100 지표에서 기존 SOTA 방법을 초월한다.
• 제거 실험 결과 보조 행동 간선 제거(w/o ae) 시 성능 저하가 발생함으로써 보조 데이터의 유용성이 입증된다.
• 보조 서브그래프 모델링 제거(w/o asg) 시 성능이 심각하게 저하됨으로써 보조 시퀀스의 별도 모델링의 중요성이 확인된다.
• 게이팅 메커니즘을 단순한 합산으로 대체한(w/o g) 경우 성능 저하가 발생함으로써 적응적 융합의 효과성이 입증된다.
• GNN 깊이가 2까지 성능 향상이 지속되나, 3를 초과하면 성능 저하가 발생함으로써 최적의 표현 전파 깊이가 존재함을 시사한다.
• WeChat 및 YooChoose 데이터셋에서 최적의 시퀀스 길이가 다름을 확인함으로써 각 데이터셋의 평균 세션 길이 차이가 성능에 영향을 미침을 반영한다.