[論文レビュー] Hybrid Collaborative Filtering with Neural Networks

Florian Strub, Jérémie Mary+1 more|arXiv (Cornell University)|Mar 9, 2016

Recommender Systems and Techniques参考文献 21被引用数 10

ひとこと要約

本稿では、スパースなレーティングデータに対して非線形行列分解を実行するとともに、サイド情報を取り入れることで推薦精度を向上させるハイブリッドな協調フィルタリングニューラルネットワーク、CFNを提案する。MovieLensおよびDoubanデータセット上で評価された結果、CFNは、複雑なユーザ・アイテム間の相互作用をモデル化し、コールドスタート問題を軽減するためにニューラルネットワークを効果的に活用することで、最先端の手法を上回った。

ABSTRACT

Collaborative Filtering aims at exploiting the feedback of users to provide personalised recommendations. Such algorithms look for latent variables in a large sparse matrix of ratings. They can be enhanced by adding side information to tackle the well-known cold start problem. While Neu-ral Networks have tremendous success in image and speech recognition, they have received less attention in Collaborative Filtering. This is all the more surprising that Neural Networks are able to discover latent variables in large and heterogeneous datasets. In this paper, we introduce a Collaborative Filtering Neural network architecture aka CFN which computes a non-linear Matrix Factorization from sparse rating inputs and side information. We show experimentally on the MovieLens and Douban dataset that CFN outper-forms the state of the art and benefits from side information. We provide an implementation of the algorithm as a reusable plugin for Torch, a popular Neural Network framework.

研究の動機と目的

• ユーザおよびアイテムの属性などのサイド情報を統合することで、協調フィルタリングにおけるコールドスタート問題を解決すること。
• ニューラルネットワークの表現力を利用して、スパースなユーザ・アイテムレーティング行列内の非線形関係をモデル化すること。
• 協調フィルタリングとサイド情報を組み合わせた、スケーラブルで再利用可能なニューラルネットワークアーキテクチャを構築し、推薦性能を向上させること。
• 実世界のデータセット上で提案手法の有効性を実証し、既存の最先端手法に対して一貫した性能向上を示すこと。

提案手法

• スパースなユーザ・アイテムレーティング行列から非線形な潜在要因を学習するニューラルネットワークアーキテクチャ、CFNを設計する。
• ユーザの人口統計情報やアイテムの特徴など、サイド情報をニューラルネットワークの追加入力として統合し、表現学習を豊かにする。
• 観測済みレーティングの予測誤差を最小化するために、バックプロパゲーションを用いてモデルをエンドツーエンドで訓練する。
• ユーザ埋め込みとアイテム埋め込み間の複雑な非線形相互作用をモデル化するために、マルチレイヤーパーセプトロン（MLP）部を活用する。
• 特にコールドスタート状況においても過学習を防ぐために正則化技術を適用する。
• 再現可能性と研究コミュニティにおける再利用可能性を確保するため、実装をTorchプラグインとして公開する。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークベースの協調フィルタリングモデルは、スパースなレーティングデータ内の非線形パターンを効果的に学習できるか？
• RQ2 サイド情報を統合することで、特にコールドスタート状況において、どの程度推薦性能が向上するか？
• RQ3 提案されたCFNモデルは、精度および一般化性能の観点から、最先端の協調フィルタリング手法と比較してどのように差をつけるか？
• RQ4 提案されたアーキテクチャは、Torchなどの既存のディープラーニングフレームワークにおいて、効率的に実装・再利用可能か？

主な発見

• CFNは、MovieLensおよびDoubanデータセットにおいて、最先端の協調フィルタリング手法を上回る優れた性能を達成した。
• サイド情報の統合により、特にレーティングが少ないユーザやアイテムに対して、モデルの精度が顕著に向上した。
• ニューラルネットワークの非線形モデリング能力のおかげで、従来の線形行列分解よりも優れた表現学習が可能になった。
• データのスパarsityに対して高いロバスト性を示し、サイド情報を通じてコールドスタート問題を効果的に軽減した。
• Torchプラグインとしてのオープンソース実装のおかげで、下流の研究や応用への容易な統合と再利用が可能になった。
• 実験結果から、CFNは、両方のベンチマークデータセットにおいて、複数の評価指標で一貫してベースラインモデルを上回ることが確認された。