[논문 리뷰] M2: Mixed Models with Preferences, Popularities and Transitions for Next-Basket Recommendation

Bo Peng, Zhiyun Ren외 2명|arXiv (Cornell University)|2020. 04. 03.

Recommender Systems and Techniques참고 문헌 26인용 수 5

한 줄 요약

이 논문은 다음 바구니 추천을 위한 혼합 모델 M²을 제안하며, 사용자 일반 선호도, 아이템의 전반적 인기도, 아이템 전이 패턴을 새로운 인코더-디코더 프레임워크(ed-Trans)를 사용해 통합한다. RNN 기반 방법과 달리 M²는 개인별 아이템 전이를 더 효과적으로 모델링하여 네 가지 벤치마크 데이터셋에서 최신 기술 대비 최대 22.1% 향상된 성능을 달성한다.

ABSTRACT

Next-basket recommendation considers the problem of recommending a set of items into the next basket that users will purchase as a whole. In this paper, we develop a novel mixed model with preferences, popularities and transitions (M2) for the next-basket recommendation. This method models three important factors in next-basket generation process: 1) users' general preferences, 2) items' global popularities and 3) transition patterns among items. Unlike existing recurrent neural network-based approaches, M2 does not use the complicated networks to model the transitions among items, or generate embeddings for users. Instead, it has a simple encoder-decoder based approach (ed-Trans) to better model the transition patterns among items. We compared M2 with different combinations of the factors with 5 state-of-the-art next-basket recommendation methods on 4 public benchmark datasets in recommending the first, second and third next basket. Our experimental results demonstrate that M2 significantly outperforms the state-of-the-art methods on all the datasets in all the tasks, with an improvement of up to 22.1%. In addition, our ablation study demonstrates that the ed-Trans is more effective than recurrent neural networks in terms of the recommendation performance. We also have a thorough discussion on various experimental protocols and evaluation metrics for next-basket recommendation evaluation.

연구 동기 및 목표

• 데이터 희소성로 인해 기존 RNN 기반 다음 바구니 추천 방법이 개인별 아이템 전이와 사용자 선호도를 잘 모델링하지 못하는 한계를 해결하기 위해.
• 사용자 선호도, 아이템 인기도, 아이템 전이 패턴이라는 세 가지 핵심 요소를 명시적으로 모델링하는 통합 프레임워크를 개발하기 위해.
• 복잡한 RNN과 비교해 단순하고 효율적인 인코더-디코더 아키텍처(ed-Trans)가 아이템 수준 전이를 모델링하는 데 얼마나 효과적인지 평가하기 위해.
• 다음 바구니 추천을 위한 평가 프로토콜과 지표에 대한 종합적 분석을 제공하며, 정밀도@k 대신 NDCG와 리콜 기반 지표를 권장하기 위해.
• 각 요소 간 상호보완성과 상대적 중요도가 추천 정확도 향상에 기여하는 방식을 규명하기 위해.

제안 방법

• M²는 세 가지 구성 요소를 통합한다: 협업 필터링을 통해 학습된 사용자 일반 선호도, 빈도 기반의 아이템 전반적 인기도, ed-Trans를 통해 모델링된 아이템 전이 패턴.
• ed-Trans 프레임워크는 인코더-디코더 아키텍처를 사용해 바구니 간 개별 아이템 간 순차적 전이를 모델링하며, RNN 없이도 단기적 의존성을 포착한다.
• 세 가지 변형을 제안한다: M²-p²(선호도 + 인기도), M²-gp²(선호도와 인기도에 대한 개인화된 가중치), M²-gp²t(모든 세 가지 요소를 포함한 전체 모델).
• 요소를 조합하기 위한 가중치는 가중치 융합 메커니즘을 통해 학습되며, M²-gp²에서는 개인 사용자 행동에 맞게 조정 가능한 개인화된 가중치를 사용한다.
• 모델은 음성 샘플링과 확률적 경사 하강법을 사용해 엔드 투 엔드로 훈련되며, 리콜@k와 NDCG@k와 같은 랭킹 지표를 최적화한다.
• 제거 분석을 통해 각 구성 요소의 기여도를 분리하고, 학습된 아이템 임베딩의 시각화를 통해 ed-Trans가 실제 전이 패턴을 잘 포착함을 확인한다.

실험 결과

연구 질문

• RQ1 사용자 선호도, 아이템 인기도, 아이템 전이 패턴이 함께 다음 바구니 추천 성능에 어떻게 영향을 미치는가?
• RQ2 간단한 인코더-디코더 아키텍처(ed-Trans)가 RNN 기반 모델보다 아이템 수준 전이를 모델링하는 데 더 나은 성능을 내는가?
• RQ3 각 요소(선호도, 인기도, 전이)가 전체 추천 정확도에 기여하는 상대적 기여도는 얼마인가?
• RQ4 정밀도@k, 리콜@k, NDCG@k 중 어떤 평가 지표가 다음 바구니 추천 작업에 가장 적합하고 신뢰할 수 있는가?
• RQ5 다양한 실험 프로토콜과 데이터 희소성 수준은 다음 바구니 추천 모델의 강건성과 일반화 능력에 어떤 영향을 미치는가?

주요 결과

• 선호도, 인기도, 전이를 모두 통합한 M²-gp²t 전체 모델이 가장 높은 성능을 기록했으며, 모든 5개의 최신 기술 대비 NDCG@k에서 최대 22.1%, 리콜@5에서 최대 19.0% 향상된 성능을 달성했다.
• ed-Trans 프레임워크는 RNN 기반 전이 모델링보다 뚜렷한 성능 향상을 보였으며, 벤치마크 데이터셋에서 리콜@5에서 최대 20.4% 향상된 성능을 기록했다.
• 제거 분석을 통해 사용자 선호도가 가장 핵심적인 요소임을 확인했으며, 전이와 인기도가 보완적인 기여를 한다.
• ed-Trans에서 학습된 아이템 임베딩 행렬이 실제 전이 패턴을 효과적으로 포착함을 확인했으며, 이는 그 표현 능력의 타당성을 뒷받침한다.
• 정밀도@k는 박스 크기 편향과 비단조화성으로 인해 신뢰할 수 없음을 입증했으며, 리콜@k와 NDCG@k가 평가에 더 강건하고 정보량이 많음을 확인했다.
• 다양한 데이터 희소성 수준에서 리테일, 뷰티, 식료품 벤치마크를 포함한 네 가지 공개 데이터셋에서 강력한 일반화 능력을 보였다.