[論文レビュー] Learning from History and Present: Next-item Recommendation via Discriminatively Exploiting User Behaviors

Zhi Li, Hongke Zhao+4 more|arXiv (Cornell University)|Aug 3, 2018

Recommender Systems and Techniques参考文献 23被引用数 24

ひとこと要約

本論文では、次アイテム推薦のための新しい深層学習フレームワークである行動集約型ニューラルネットワーク（BINN）を提案する。このフレームワークは、ユーザーの長期的かつ安定した好みと、短期的なセッションベースの動機を判別的にモデル化する。w-item2vecに基づくアイテム埋め込みと、好みと動機の学習に特化した二重LSTMブランチを統合することで、二つの実世界のECデータセットにおいて最先端の性能を達成し、特にユーザーの相互作用履歴が長くなるにつれて、リCALLとランク付け精度の両面で既存手法を上回る。

ABSTRACT

In the modern e-commerce, the behaviors of customers contain rich information, e.g., consumption habits, the dynamics of preferences. Recently, session-based recommendations are becoming popular to explore the temporal characteristics of customers' interactive behaviors. However, existing works mainly exploit the short-term behaviors without fully taking the customers' long-term stable preferences and evolutions into account. In this paper, we propose a novel Behavior-Intensive Neural Network (BINN) for next-item recommendation by incorporating both users' historical stable preferences and present consumption motivations. Specifically, BINN contains two main components, i.e., Neural Item Embedding, and Discriminative Behaviors Learning. Firstly, a novel item embedding method based on user interactions is developed for obtaining an unified representation for each item. Then, with the embedded items and the interactive behaviors over item sequences, BINN discriminatively learns the historical preferences and present motivations of the target users. Thus, BINN could better perform recommendations of the next items for the target users. Finally, for evaluating the performances of BINN, we conduct extensive experiments on two real-world datasets, i.e., Tianchi and JD. The experimental results clearly demonstrate the effectiveness of BINN compared with several state-of-the-art methods.

研究の動機と目的

• 既存のセッションベースの推薦モデルが長期的なユーザー好みを無視するという限界を是正すること。
• 統一されたフレームワーク内で、歴史的な安定した好みと現在の消費動機を同時にモデル化し、次アイテム予測の精度を向上させること。
• ユーザーの相互作用に基づいて、アイテム間の順序的類似性を捉える統一されたアイテム表現手法を開発すること。
• 異なる行動信号（長期的 vs. 短期的）を効果的に分離・処理する判別的学習メカニズムを設計すること。
• ユーザー相互作用長の変動やコールドスタート状況下で、実世界の産業データセット上でのモデル性能を評価すること。

提案手法

• ユーザーの相互作用データ内の順序パターンを活用して、静的特徴を超えるアイテム類似性を捉えることで、統一されたアイテム埋め込みを生成するw-item2vec手法を提案する。
• 二重ブランチLSTMアーキテクチャを導入：一方のブランチはユーザーの相互作用シーケンスを用いて長期的かつ歴史的な好みをモデル化し、もう一方は短期的なセッションレベルの動機を捉える。
• 判別的行動学習を適用し、同じフレームワーク内で、歴史的好みと現在の動機という異なる行動信号を別々に整列・処理する。
• 統一された埋め込み空間を採用することで、意味的および順序的関係を反映する潜在表現を学習可能にする。
• 二重ストリームニューラルネットワークを用いて、長期的および短期的行動モデル化を同時に最適化し、ユーザー相互作用シーケンス上でエンドツーエンドの学習を実現する。
• RNNベースのアーキテクチャ（LSTM）を用いて、ユーザー行動シーケンスの時間的ダイナミクスをモデル化し、文脈を考慮した順序付き推薦を可能にする。

実験結果

リサーチクエスチョン

• RQ1 長期的かつ安定した好みと短期的なセッションベースの動機を統合的にモデル化することで、次アイテム推薦の性能が向上するか？
• RQ2 ユーザーの相互作用履歴の長さが、歴史的および現在の行動信号を組み込んだモデルの性能にどのように影響するか？
• RQ3 相互作用シーケンスに基づく統一されたアイテム表現は、従来のアイテム埋め込み手法に比べて、どの程度順序付き推薦で優れた性能を発揮するか？
• RQ4 異なる行動タイプ（歴史的 vs. 現在）を判別的に処理することで、統合的モデリングに比べて推薦精度が向上するか？
• RQ5 本手法は、相互作用履歴が限られたコールドスタートユーザーに対しても、どの程度効果的に機能するか？

主な発見

• BINNは、TianchiおよびJDの両データセットにおいて、Recall@20で顕著な向上を達成し、JDデータセットでは長期的な相互作用履歴を持つユーザーに対して、他のRNNベースのモデルに比べて少なくとも3.92%の性能向上を示した。
• コールドスタートユーザーに対しても優れた性能を示し、再訓練を必要としないため、新規ユーザーのプロファイルに対しても頑健であることが示された。
• ユーザーの相互作用履歴が長くなるにつれて、BINNの性能は着実に向上し、長期的好みのモデル化の有効性が裏付けられた。
• 二重ブランチLSTMの設計により、長期的好みと短期的動機の間のより良い分離が可能となり、より正確な次アイテム予測が実現された。
• w-item2vec手法は、アイテム間の順序的類似性を効果的に捉えており、埋め込み空間におけるアイテム表現の質が向上した。
• BINNは、GRU4RecやHRNNモデルに比べてランク付け精度で優れており、特に長い相互作用シーケンスにおいて顕著な改善が確認された。これは、明示的な好みと動機の分離が有効であることを裏付けている。