[論文レビュー] M2: Mixed Models with Preferences, Popularities and Transitions for Next-Basket Recommendation

Bo Peng, Zhiyun Ren+2 more|arXiv (Cornell University)|Apr 3, 2020

Recommender Systems and Techniques参考文献 26被引用数 5

ひとこと要約

本稿では、次バケット推薦のための混合モデルM²を提案する。M²は、一般ユーザーの好み、アイテムの全体的トレンド、アイテム間遷移パターンを、新規のエンコーダ・デコーダフレームワーク（ed-Trans）を用いて統合する。RNNベースの手法とは異なり、M²は個々のアイテム間遷移をより効果的にモデル化でき、4つのベンチマークデータセットにおいて、最先端の手法を最大22.1%上回る性能を達成した。

ABSTRACT

Next-basket recommendation considers the problem of recommending a set of items into the next basket that users will purchase as a whole. In this paper, we develop a novel mixed model with preferences, popularities and transitions (M2) for the next-basket recommendation. This method models three important factors in next-basket generation process: 1) users' general preferences, 2) items' global popularities and 3) transition patterns among items. Unlike existing recurrent neural network-based approaches, M2 does not use the complicated networks to model the transitions among items, or generate embeddings for users. Instead, it has a simple encoder-decoder based approach (ed-Trans) to better model the transition patterns among items. We compared M2 with different combinations of the factors with 5 state-of-the-art next-basket recommendation methods on 4 public benchmark datasets in recommending the first, second and third next basket. Our experimental results demonstrate that M2 significantly outperforms the state-of-the-art methods on all the datasets in all the tasks, with an improvement of up to 22.1%. In addition, our ablation study demonstrates that the ed-Trans is more effective than recurrent neural networks in terms of the recommendation performance. We also have a thorough discussion on various experimental protocols and evaluation metrics for next-basket recommendation evaluation.

研究の動機と目的

• データスパarsityの影響により、既存のRNNベースの次バケット推薦手法が個々のアイテム遷移やユーザーの好みを十分にモデル化できないという限界を是正すること。
• ユーザーの好み、アイテムのトレンド、アイテム間遷移パターンという3つの主要要因を明示的にモデル化する統合フレームワークの構築。
• 複雑なRNNと比較して、アイテムレベルの遷移をモデル化する際、シンプルで効率的なエンコーダ・デコーダアーキテクチャ（ed-Trans）の有効性の評価。
• 次バケット推薦のための評価プロトコルと指標について包括的な分析を行い、precision@kよりもNDCGとrecallベースの指標を推奨すること。
• 各要因の相乗効果と相対的な重要度が、推薦精度に与える影響を特定すること。

提案手法

• M²は、3つのコンponentを統合する：ユーザーの一般的な好み（協調フィルタリングで学習）、アイテムの全体的トレンド（頻度ベース）、アイテム間遷移パターン（ed-Transでモデル化）。
• ed-Transフレームワークは、エンコーダ・デコーダアーキテクチャを用いて、バスケット間の個々のアイテム間遷移をモデル化し、RNNを用いずに短期的依存関係を捉える。
• 3つの変種を提案：M²-p²（好み＋トレンド）、M²-gp²（好みとトレンドのパーソナライズドウェイト）、M²-gp²t（3要因をすべて含む完全モデル）。
• 要因の組み合わせに用いる重みは、重み付き統合メカニズムにより学習され、M²-gp²では個々のユーザー行動に適応するパーソナライズドウェイトを採用。
• 負例サンプリングと確率的勾配降下法を用いて、ランキング指標（例：recall@k、NDCG@k）を最適化する形で、エンドツーエンドでモデルを訓練。
• アブレーションスタディにより、各コンponentの寄与度を分離し、学習済みのアイテム埋め込みの可視化により、ed-Transが真の遷移パターンを的確に捉えていることを確認。

実験結果

リサーチクエスチョン

• RQ1 ユーザーの好み、アイテムのトレンド、アイテム間遷移パターンが、次バケット推薦のパフォーマンスにどのように統合的に影響を与えるか？
• RQ2 シンプルなエンコーダ・デコーダフレームワーク（ed-Trans）は、複雑なRNNベースのモデルを上回り、次バケット予測のアイテムレベル遷移を効果的にモデル化できるか？
• RQ3 各要因（好み、トレンド、遷移）が、全体の推薦精度に果たす相対的寄与度はどの程度か？
• RQ4 precision@k、recall@k、NDCG@kのうち、どの評価指標が次バケット推薦タスクにおいて最も適切で信頼性があるか？
• RQ5 異なる実験プロトコルやデータスパarsityレベルは、次バケット推薦モデルのロバストネスと一般化性能にどのように影響するか？

主な発見

• 好み、トレンド、遷移をすべて統合したM²-gp²t（完全モデル）が最高のパフォーマンスを示し、5つの最先端手法を最大22.1%上回った（NDCG@k基準）、およびrecall@5では最大19.0%の向上を達成。
• ed-TransフレームワークはRNNベースの遷移モデルを顕著に上回り、ベンチマークデータセットにおいて最大20.4%のrecall@5向上を達成。
• アブレーションスタディにより、ユーザーの好みが最も重要な要因であることが確認され、遷移とトレンドが補完的改善をもたらしている。
• ed-Transから得られた学習済みのアイテム埋め込み行列は、真の遷移パターンを的確に捉えており、その表現能力が裏付けられた。
• precision@kは非単調性とバスケットサイズへのバイアスのため、信頼性に欠けることが判明。一方、recall@kとNDCG@kはよりロバストで情報量が多く、評価に適している。
• 本モデルは、リテール、ビューティ、グルーディなどの4つの公開データセットにおいて、さまざまなデータスパarsityレベル下でも強力な一般化性能を示した。