[논문 리뷰] Learning from History and Present: Next-item Recommendation via Discriminatively Exploiting User Behaviors

Zhi Li, Hongke Zhao외 4명|arXiv (Cornell University)|2018. 08. 03.

Recommender Systems and Techniques참고 문헌 23인용 수 24

한 줄 요약

이 논문은 사용자의 장기적 역사적 선호도와 단기적 세션 기반 동기를 분별적으로 모델링하는 새로운 딥러닝 프레임워크인 행동집약형 신경망(BINN)을 제안한다. w-item2vec 기반의 아이템 임베딩과 선호도 및 동기 학습을 위한 이중 LSTM 브랜치를 통합함으로써, BINN은 두 개의 실생활 전자상거래 데이터셋에서 최신 기술 수준의 성능을 달성하며, 기존 방법들보다 리콜과 랭킹 정확도에서 뛰어난 성능을 보이며, 사용자 상호작용 역사를 길어질수록 더욱 두드러진다.

ABSTRACT

In the modern e-commerce, the behaviors of customers contain rich information, e.g., consumption habits, the dynamics of preferences. Recently, session-based recommendations are becoming popular to explore the temporal characteristics of customers' interactive behaviors. However, existing works mainly exploit the short-term behaviors without fully taking the customers' long-term stable preferences and evolutions into account. In this paper, we propose a novel Behavior-Intensive Neural Network (BINN) for next-item recommendation by incorporating both users' historical stable preferences and present consumption motivations. Specifically, BINN contains two main components, i.e., Neural Item Embedding, and Discriminative Behaviors Learning. Firstly, a novel item embedding method based on user interactions is developed for obtaining an unified representation for each item. Then, with the embedded items and the interactive behaviors over item sequences, BINN discriminatively learns the historical preferences and present motivations of the target users. Thus, BINN could better perform recommendations of the next items for the target users. Finally, for evaluating the performances of BINN, we conduct extensive experiments on two real-world datasets, i.e., Tianchi and JD. The experimental results clearly demonstrate the effectiveness of BINN compared with several state-of-the-art methods.

연구 동기 및 목표

• 기존 세션 기반 추천 모델이 장기적 사용자 선호도를 忽시하는 한계를 해결하기 위해.
• 향상된 다음 아이템 예측을 위해 역사적 안정적 선호도와 현재 소비 동기를 통합된 프레임워크 안에서 모델링하기 위해.
• 사용자 상호작용 기반으로 아이템 간 순서적 유사성을 반영하는 통합된 아이템 표현 방법을 개발하기 위해.
• 다른 행동 신호(장기적 vs. 단기적)를 효과적으로 분리하고 처리할 수 있는 분별적 학습 메커니즘을 설계하기 위해.
• 다양한 사용자 상호작용 길이와 콜드스터트 조건 하에서 실생활 산업 데이터셋에서 모델 성능을 평가하기 위해.

제안 방법

• 사용자 상호작용 데이터의 순서적 패턴을 활용하여 통합된 아이템 임베딩를 생성하기 위해 w-item2vec 방법을 제안함으로써, 정적 특징을 초월한 아이템 유사성을 포착한다.
• 이중 브랜치 LSTM 아키텍처를 도입함: 한 브랜치는 사용자 상호작용 시퀀스를 이용해 장기적 역사적 선호도를 모델링하고, 다른 브랜치는 단기적 세션 수준의 동기를 포착한다.
• 동일한 프레임워크 내에서 역사적 선호도와 현재 동기를 별개로 정렬하고 처리할 수 있도록 분별적 행동 학습을 적용한다.
• 통합된 임베딩 공간을 활용하여, 의미적 및 순서적 관계를 반영하는 잠재 표현을 학습할 수 있도록 한다.
• 장기적 및 단기적 행동 모델링을 동시에 최적화하기 위해 이중 스트림 신경망을 사용하며, 사용자 상호작용 시퀀스에 대한 엔드 투 엔드 훈련을 수행한다.
• RNN 기반 아키텍처(LSTM)를 활용하여 사용자 행동 시퀀스의 시간 동적 특성을 모델링함으로써, 맥락 인식 예측이 가능한 순서 기반 추천을 가능하게 한다.

실험 결과

연구 질문

• RQ1 장기적 안정적 선호도와 단기적 세션 기반 동기를 함께 모델링하면 다음 아이템 추천 성능이 향상되는가?
• RQ2 사용자 상호작용 역사 길이가 역사적 및 현재 행동 신호를 모두 포함하는 모델의 성능에 어떤 영향을 미치는가?
• RQ3 상호작용 시퀀스 기반의 통합된 아이템 표현 방법이 기존 아이템 임베딩 방법보다 순서 기반 추천에서 얼마나 뛰어난 성능을 낼 수 있는가?
• RQ4 다른 행동 유형(역사적 vs. 현재)을 분별적으로 처리하는 것이 통합 모델링보다 더 높은 추천 정확도를 이끌어내는가?
• RQ5 제안된 모델은 상호작용 이력이 제한된 콜드스터트 사용자 처리에 얼마나 효과적인가?

주요 결과

• BINN는 천치 및 JD 데이터셋에서 Recall@20에서 뚜렷한 향상을 보였으며, 특히 긴 상호작용 이력이 있는 사용자에 대해 JD 데이터셋에서 다른 RNN 기반 모델보다 최소 3.92% 이상의 성능 향상을 달성했다.
• 모델은 콜드스터트 사용자에 대해서도 뛰어난 성능을 보였으며, 재학습 없이도 신규 사용자 프로파일에 대해 강건함을 입증했다.
• 사용자 상호작용 이력 길이가 길어질수록 BINN의 성능이 안정적으로 향상되어 장기적 선호도 모델링의 효과성을 입증했다.
• 이중 브랜치 LSTM 설계 덕분에 장기적 선호도와 단기적 동기 간의 더 나은 분리가 가능해져 보다 정확한 다음 아이템 예측이 가능했다.
• w-item2vec 방법은 아이템 간 순서적 유사성을 효과적으로 포착하여 임베딩 공간 내 아이템 표현의 질을 향상시켰다.
• BINN는 GRU4Rec 및 HRNN 모델보다 랭킹 정확도에서 뛰어난 성능을 보였으며, 특히 긴 상호작용 시퀀스에서 그 효과가 두드러져 명시적 선호도 및 동기 분리의 유용성을 확인했다.