[논문 리뷰] Learning Recommender Systems from Multi-Behavior Data.

Chen Gao, Xiangnan He외 6명|arXiv (Cornell University)|2018. 09. 21.

Recommender Systems and Techniques참고 문헌 38인용 수 5

한 줄 요약

이 논문은 클릭, 시청, 구매와 같은 다양한 사용자 행동 간의 계단식 종속 관계를 모델링함으로써 다중 사용자 행동에서 동시에 학습하는 신경 다중작업 추천 모델 NMTR를 제안한다. 다중작업 학습을 활용해 모든 행동을 동시에 최적화함으로써, 특히 상호작용 기록이 희박한 사용자에게서 추천 품질을 크게 향상시켜 실세계 데이터셋에서 최신 기술을 초월한다.

ABSTRACT

Most existing recommender systems leverage user behavior data of one type only, such as the purchase behavior in E-commerce that is directly related to the business KPI (Key Performance Indicator) of conversion rate. Besides the key behavioral data, we argue that other forms of user behaviors also provide valuable signal, such as views, clicks, adding a product to shop carts and so on. They should be taken into account properly to provide quality recommendation for users. In this work, we contribute a new solution named NMTR (short for Neural Multi-Task Recommendation) for learning recommender systems from user multi-behavior data. We develop a neural network model to capture the complicated and multi-type interactions between users and items. In particular, our model accounts for the cascading relationship among different types of behaviors (e.g., a user must click on a product before purchasing it). To fully exploit the signal in the data of multiple types of behaviors, we perform a joint optimization based on the multi-task learning framework, where the optimization on a behavior is treated as a task. Extensive experiments on two real-world datasets demonstrate that NMTR significantly outperforms state-of-the-art recommender systems that are designed to learn from both single-behavior data and multi-behavior data. Further analysis shows that modeling multiple behaviors is particularly useful for providing recommendation for sparse users that have very few interactions.

연구 동기 및 목표

• 구매와 같은 하나의 유형의 사용자 행동에 의존하는 기존 추천 시스템의 한계를 해결하기 위해.
• 클릭, 시청, 장바구니 담기와 같은 다중 사용자 행동이 더 나은 추천 품질을 위한 보완적 신호를 제공할 수 있는지 탐색하기 위해.
• 클릭 이전에 구매가 일어나는 것과 같이 행동 간의 본질적인 계단식 관계(예: 클릭 → 구매)를 통합된 프레임워크에서 모델링하기 위해.
• 더 풍부한 행동 신호를 활용해 상호작용 기록이 희박한 사용자의 추천 성능을 향상시키기 위해.
• 다양한 행동 유형에서 동시에 학습할 수 있도록 다중작업 학습을 활용한 공동 최적화 프레임워크를 개발하기 위해.

제안 방법

• 사용자와 아이템 간의 다중 유형 상호작용을 복잡하게 포착하는 신경망 아키텍처를 설계하기 위해.
• 행동 간의 계단식 종속 관계(예: 시청 → 클릭 → 장바구니 담기 → 구매)를 구조화된 순서 인식 설계를 통해 모델링하기 위해.
• 각 행동 유형을 다중작업 학습 프레임워크 내에서 별개이지만 상호연결된 작업으로 간주하여 공동 최적화를 가능하게 하기 위해.
• 공유 표현을 통해 일반화 능력을 향상시키면서도, 행동별 패턴에 맞는 작업별 적응을 허용하기 위해.
• 모든 행동 유형의 감독 신호를 통합한 통합 손실 함수를 사용해 엔드 투 엔드 학습을 수행하기 위해.
• 이전 행동의 중요도를 예측하는 후행 동작에 가중치를 부여하기 위해 어텐션 메커니즘 또는 시퀀스 모델링 구성 요소를 통합하기 위해.

실험 결과

연구 질문

• RQ1 단일 행동 기반 기준과 비교해 다중 사용자 행동을 공동으로 모델링하면 추천 성능이 향상되는가?
• RQ2 행동 간의 계단식 관계를 모델링하면 추천 정확도와 내구성에 어떤 영향을 미치는가?
• RQ3 다중행동 학습이 상호작용 기록이 제한된 사용자에게 추천을 얼마나 향상시키는가?
• RQ4 NMTR의 다중작업 학습 프레임워크는 단일작업 또는 히وري스틱 다중행동 접근 방식보다 더 나은 일반화 및 표현 학습을 이끌어내는가?
• RQ5 다양한 행동 신호(예: 시청 vs. 구매)가 공동 학습 환경에서 최종 추천 품질에 어떻게 기여하는가?

주요 결과

• NMTR는 단일 행동 또는 다중행동 데이터에서 훈련된 최신 기술 추천 시스템을 뛰어넘는다.
• 다양한 상호작용 기록이 있는 사용자와 희박한 상호작용 기록이 있는 사용자 모두에서 뛰어난 성능을 달성하며, 특히 상호작용 수가 적은 사용자에게서 두드러진 성과를 보였다.
• 행동의 계단식 특성을 모델링함으로써 모든 행동 유형에서 더 나은 표현 학습과 예측 정확도 향상을 달성하였다.
• 다중작업 학습 프레임워크는 행동 유형 간 효과적인 지식 전이를 가능하게 하여 전체 시스템의 내구성을 향상시켰다.
• 다양한 행동을 공동 최적화함으로써 별도의 모델을 각 행동 유형별로 훈련시키는 것보다 더 안정적이고 일반화 능력이 뛰어난 추천을 도출하였다.
• 두 개의 실세계 데이터셋에 대한 실험 결과는 NMTR가 정밀도, 재현율, NDCG와 같은 핵심 추천 지표를 일관되게 향상시킴을 확인하였다.