[논문 리뷰] Modeling the Past and Future Contexts for Session-based Recommendation.

Fajie Yuan, Xiangnan He외 4명|arXiv (Cornell University)|2019. 06. 11.

Recommender Systems and Techniques참고 문헌 28인용 수 2

한 줄 요약

이 논문은 과거와 미래의 맥락을 갭 채우기 메커니즘을 통해 모델링함으로써 세션 기반 추천을 향상시키는 새로운 인코더-디코더 프레임워크 GRec을 제안한다. 세션 시퀀스에서 아이템을 마스킹하고, 맥락적 표현을 사용해 이를 예측하도록 모델을 훈련시킴으로써 GRec은 이방향 의존성을 포착하고 실제 데이터셋에서 최신 기술(SOTA) 방법들을 크게 능가한다.

ABSTRACT

Session-based recommender systems have attracted much attention recently. To capture the sequential dependencies, existing methods resort either to data augmentation techniques or left-to-right style autoregressive training.Since these methods are aimed to model the sequential nature of user behaviors, they ignore the future data of a target interaction when constructing the prediction model for it. However, we argue that the future interactions after a target interaction, which are also available during training, provide valuable signal on user preference and can be used to enhance the recommendation quality. Properly integrating future data into model training, however, is non-trivial to achieve, since it disobeys machine learning principles and can easily cause data leakage. To this end, we propose a new encoder-decoder framework named Gap-filling based Recommender (GRec), which trains the encoder and decoder by a gap-filling mechanism. Specifically, the encoder takes a partially-complete session sequence (where some items are masked by purpose) as input, and the decoder predicts these masked items conditioned on the encoded representation. We instantiate the general GRec framework using convolutional neural network with sparse kernels, giving consideration to both accuracy and efficiency. We conduct experiments on two real-world datasets covering short-, medium-, and long-range user sessions, showing that GRec significantly outperforms the state-of-the-art sequential recommendation methods. More empirical studies verify the high utility of modeling future contexts under our GRec framework.

연구 동기 및 목표

• 기존 세션 기반 추천 방법이 훈련 중 향후 사용자 상호작용을 忽시하는 한계를 해결하기 위해.
• 데이터 泄露의 위험이 있음에도 불구하고 향후 맥락이 추천 품질을 향상시킬 수 있는지 탐색하기 위해.
• 기계 학습 원칙을 위반하지 않으면서도 안전하게 향후 정보를 통합할 수 있는 훈련 프레임워크를 설계하기 위해.
• 사용자 세션 내 이방향 순차적 의존성을 효과적으로 포착할 수 있는 효율적이고 정확한 모델을 개발하기 위해.

제안 방법

• 인코더가 마스킹된 아이템을 가진 세션을 처리하고, 디코더가 인코딩된 맥락을 기반으로 누락된 아이템을 예측하는 갭 채우기 메커니즘을 제안한다.
• 시퀀스에서 아이템을 마스킹하여 과거와 미래 맥락을 동시에 학습할 수 있도록 인코더-디코더 아키텍처를 사용한다.
• 세션 시퀀스 모델링의 효율성과 확장성을 확보하기 위해 희소 커널을 사용하는 컨볼루션 신경망을 활용한다.
• 미래 맥락을 데이터 泄漏 없이 사용할 수 있도록 마스킹된 시퀀스 재구성 목적을 사용해 엔드 투 엔드로 모델을 훈련시킨다.
• 훈련 중에 세션에서 무작위로 아이템을 마스킹하여 입력 시퀀스를 구성함으로써 예측 작업을 시뮬레이션한다.
• 대표성 학습을 향상시키기 위해 훈련 중 전체 세션 시퀀스(미래 아이템 포함)를 활용한다.

실험 결과

연구 질문

• RQ1 향후 사용자 상호작용을 모델링하면 세션 기반 추천 성능이 향상될 수 있는가?
• RQ2 데이터 泄漏나 기계 학습 원칙 위반 없이 향후 맥락을 훈련에 통합할 수 있는가?
• RQ3 갭 채우기 메커니즘이 순차적 또는 왼쪽에서 오른쪽으로 모델링하는 것과 비교해 순차적 의존성을 얼마나 잘 포착하는가?
• RQ4 이방향 맥락을 모델링할 경우 짧은, 중간 길이, 긴 사용자 세션에 어떤 영향을 미치는가?
• RQ5 GRec은 최신 기술의 순차적 추천 모델들과 비교해 어떻게 성능을 내는가?

주요 결과

• GRec은 두 개의 실제 세계 데이터셋에서 최신 기술의 순차적 추천 방법들을 크게 능가한다.
• 모델은 짧은, 중간 길이, 긴 사용자 세션 전반에서 성능 향상을 달성하여 세션 길이에 관계없이 강건함을 입증한다.
• 실험적 연구는 적절히 통합된 향후 맥락이 추천 품질을 향상시킬 수 있음을 확인한다.
• 희소 컨볼루션 커널의 사용은 정확도를 희생시키지 않은 채 높은 효율성을 보장한다.
• 갭 채우기 훈련 메커니즘은 데이터 泄漏 없이 향후 상호작용을 효과적으로 활용한다.
• 결과는 기존 방법에서 활용되지 못한 가치 있는 선호 신호가 향후 맥락에 포함되어 있음을 보여준다.