[論文レビュー] Modeling the Past and Future Contexts for Session-based Recommendation.

Fajie Yuan, Xiangnan He+4 more|arXiv (Cornell University)|Jun 11, 2019

Recommender Systems and Techniques参考文献 28被引用数 2

ひとこと要約

本稿では、ギャップフィルティング機構を用いて過去および未来の文脈をモデル化することで、セッションベース推薦を向上させる新しいエンコーダデコーダフレームワーク、GRecを提案する。セッションシーケンス内のアイテムをマスキングし、文脈表現を用いてそれらを予測するようにモデルを訓練することで、双方向の依存関係を捉え、実世界のデータセットにおいて最先端の手法を著しく上回る性能を達成する。

ABSTRACT

Session-based recommender systems have attracted much attention recently. To capture the sequential dependencies, existing methods resort either to data augmentation techniques or left-to-right style autoregressive training.Since these methods are aimed to model the sequential nature of user behaviors, they ignore the future data of a target interaction when constructing the prediction model for it. However, we argue that the future interactions after a target interaction, which are also available during training, provide valuable signal on user preference and can be used to enhance the recommendation quality. Properly integrating future data into model training, however, is non-trivial to achieve, since it disobeys machine learning principles and can easily cause data leakage. To this end, we propose a new encoder-decoder framework named Gap-filling based Recommender (GRec), which trains the encoder and decoder by a gap-filling mechanism. Specifically, the encoder takes a partially-complete session sequence (where some items are masked by purpose) as input, and the decoder predicts these masked items conditioned on the encoded representation. We instantiate the general GRec framework using convolutional neural network with sparse kernels, giving consideration to both accuracy and efficiency. We conduct experiments on two real-world datasets covering short-, medium-, and long-range user sessions, showing that GRec significantly outperforms the state-of-the-art sequential recommendation methods. More empirical studies verify the high utility of modeling future contexts under our GRec framework.

研究の動機と目的

• トレーニング中に将来のユーザー行動を無視する既存のセッションベース推薦手法の限界を是正すること。
• データ漏洩のリスクがあるにもかかわらず、将来の文脈が推薦品質を向上させられるかどうかを検討すること。
• 機械学習の原則に反しない形で、将来情報を安全に統合するトレーニングフレームワークを設計すること。
• ユーザーのセッションにおける双方向の順序依存関係を的確に捉える、効率的で正確なモデルを開発すること。

提案手法

• エンコーダがマスキングされたアイテムを含むセッションを処理し、デコーダが符号化された文脈に基づいて欠落したアイテムを予測するギャップフィルティング機構を提案する。
• シーケンス内のアイテムをマスキングすることで、過去および未来の文脈を同時に学習するエンコーダデコーダアーキテクチャを用いる。
• 効率性とスケーラビリティを確保するため、スパースカーネルを用いた畳み込みニューラルネットワークを採用する。
• マスクされたシーケンス再構成目的関数を用いてエンドツーエンドでモデルを訓練し、将来の文脈をデータ漏洩を伴わずに使用する。
• トレーニング時にセッション内のアイテムをランダムにマスキングすることで、入力シーケンスを構築し、予測タスクをシミュレートする。
• 表現学習を豊かにするために、トレーニング中に未来のアイテムを含む完全なセッションシーケンスを活用する。

実験結果

リサーチクエスチョン

• RQ1 将来のユーザー行動をモデル化することで、セッションベース推薦のパフォーマンスが向上するか？
• RQ2 データ漏洩や機械学習の原則に反しない形で、将来の文脈をトレーニングに統合することは可能か？
• RQ3 ギャップフィルティング機構は、自己回帰的または左から右への順序モデルと比較して、順序依存関係をどのように効果的に捉えられるか？
• RQ4 双方向の文脈をモデル化することで、短時間、中程度、長時間のユーザーのセッションにどのような影響を与えるか？
• RQ5 GRecは最先端の順序推薦モデルと比較して、どのように性能を発揮するか？

主な発見

• GRecは2つの実世界データセットにおいて、最先端の順序推薦手法を著しく上回る性能を達成する。
• 短時間、中程度、長時間のユーザーのセッションにおいて、すべてのセッション長に対して改善された性能を示し、セッション長に強く依存しない堅牢性を示す。
• 実証的分析により、適切に統合された将来の文脈が推薦品質を向上させることを確認した。
• スパース畳み込みカーネルの使用により、精度を損なわず高い効率性を実現した。
• ギャップフィルティングトレーニング機構は、データ漏洩を伴わずに将来の相互作用を効果的に活用できる。
• 結果から、既存の手法で十分に活用されていない価値ある好みのシグナルが将来の文脈に含まれていることが示された。