[論文レビュー] Collaborative Filtering with Recurrent Neural Networks

Robin Devooght, Hugues Bersini|arXiv (Cornell University)|Aug 26, 2016

Recommender Systems and Techniques参考文献 17被引用数 70

ひとこと要約

本論文では、長短期記憶（LSTM）ネットワークを用いて協調フィルタリングを順序予測問題としてモデル化し、ユーザーの行動を時系列的な順序として扱うことで、短期予測およびアイテムカバレッジの面で推薦精度を向上させることを提案している。LSTMは、KNN や行列分解といった従来手法に比べて、変化するユーザーの好みを捉える能力や推薦の多様性を高める点で優れている。

ABSTRACT

We show that collaborative filtering can be viewed as a sequence prediction problem, and that given this interpretation, recurrent neural networks offer very competitive approach. In particular we study how the long short-term memory (LSTM) can be applied to collaborative filtering, and how it compares to standard nearest neighbors and matrix factorization methods on movie recommendation. We show that the LSTM is competitive in all aspects, and largely outperforms other methods in terms of item coverage and short term predictions.

研究の動機と目的

• ユーザーの好みの時間的変化をよりよくモデル化するため、協調フィルタリングを順序予測問題として再定式化すること。
• KNN や行列分解といった標準的な協調フィルタリング手法と比較して、LSTM の性能を評価すること。
• 順序ベースのモデリングが推薦の多様性および短期予測精度を向上させるかどうかを調査すること。
• 補助的ユーザー特徴、アイテム特徴、相互作用特徴を組み込むことで、LSTM を用いた推薦性能に与える影響を評価すること。

提案手法

• ユーザー行動を時系列的なアイテム相互作用の順序としてモデル化する協調フィルタリングの順序予測タスクへの再定式化。
• 長短期記憶（LSTM）ネットワークを用いて、順序的な相互作用からユーザーの経路表現を学習すること。
• LSTM を、ユーザーの相互作用順序における次のアイテムを予測するように訓練し、カテゴリカル交差エントロピー損失を用いて短期予測を最適化すること。
• ユーザーの属性、アイテムのジャンル、レーティングといった補助特徴を one-hot 編集して、アイテム埋め込みと連結し、LSTM の入力として使用すること。
• 短期予測性能を評価するために、独自の指標「k における順序予測成功率（sps@k）」を用いること。
• Movielens 1M および Netflix データセット上で、標準指標（sps@k、アイテムカバレッジ、ユーザー カバレッジ、recall@k）を用いてモデル性能を比較すること。

実験結果

リサーチクエスチョン

• RQ1 再帰的ニューラルネットワーク、特にLSTMは、協調フィルタリングを順序予測問題として効果的にモデル化できるか？
• RQ2 LSTM を用いた推薦は、KNN や行列分解と比較して、短期および長期の予測性能においてどのように異なるか？
• RQ3 相互作用の時系列的順序を組み込むことで、静的協調フィルタリングと比較して推薦の多様性およびカバレッジが向上するか？
• RQ4 追加のユーザー、アイテム、相互作用特徴を組み込むことで、LSTM の性能はどの程度向上するか？

主な発見

• LSTM モデルは、KNN や行列分解を大きく上回り、すべての特徴を組み込んだ場合に Movielens 1M で 666.17 個のアイテムをカバーする。
• LSTM は、Movielens 1M で 34.97% の k における順序予測成功率（sps@k）を達成し、すべてのベースライン手法を上回った。
• モデルは短期予測において優れた性能を示し、テストされたすべての手法の中で最高の sps@k スコアを記録した。
• ユーザー、アイテム、相互作用の補助特徴を組み合わせて追加することで、sps@k が 33.69% から 34.97% にわずかに向上し、アイテムカバレッジも 649.22 から 666.17 に向上した。
• 順序ベースのアプローチは自然に短期予測をサポートし、推薦の多様性を高める。短期予測は長期予測の部分集合であるためである。
• 結果から、相互作用の順序が、補助特徴に含まれる情報の大部分をすでに暗黙的にエンコードしていることが示唆され、それらを追加しても恩恵は限定的である。