[論文レビュー] Representation Learning for cold-start recommendation

Gabriella Contardo, Ludovic Denoyer+1 more|arXiv (Cornell University)|Dec 22, 2014

Recommender Systems and Techniques参考文献 13被引用数 7

ひとこと要約

本論文は、スパースなレーティングから最適なインタビュー項目とユーザーレプリゼンテーションを同時に学習するインダクティブな行列分解モデルを提案する。ユーザーエンベッディングを潜在空間における累積的平行移動としてモデル化することで、新規ユーザーやスパースなデータ環境において高速かつ高精度な推薦が可能となり、4つのデータセットにおいてベースラインを上回る性能を示した。

ABSTRACT

A standard approach to Collaborative Filtering (CF), i.e. prediction of user ratings on items, relies on Matrix Factorization techniques. Representations for both users and items are computed from the observed ratings and used for prediction. Unfortunatly, these transductive approaches cannot handle the case of new users arriving in the system, with no known rating, a problem known as user cold-start. A common approach in this context is to ask these incoming users for a few initialization ratings. This paper presents a model to tackle this twofold problem of (i) finding good questions to ask, (ii) building efficient representations from this small amount of information. The model can also be used in a more standard (warm) context. Our approach is evaluated on the classical CF problem and on the cold-start problem on four different datasets showing its ability to improve baseline performance in both cases.

研究の動機と目的

• 新規ユーザが歴史的レーティングを持たないコラボラティブフィルタリングにおけるコールドスタート問題に対処すること。
• ユーザのインタビューに適した情報をもつアイテムを選択すると同時に、スパースなフィードバックから効果的なユーザーレプリゼンテーションを構築する手法を開発すること。
• 再トレーニングを必要とせず、未観測のユーザに一般化可能なインダクティブモデルを設計すること。従来のトランスダクティブ行列分解とは対照的である。
• コールドスタートとウォームスタートの推薦の間のギャップを埋め、統一された表現学習を可能にすること。
• アイテム選択と表現学習のエンドツーエンド最適化により、低データ環境における推薦精度を向上させること。

提案手法

• ユーザーレプリゼンテーション関数を損失目的関数に統合することで、コールドスタート問題を表現学習タスクとして定式化する。
• 各レーティングが選択されたアイテムに対して学習されたベクトルシフトを加えることで、潜在空間における累積的平行移動としてユーザーレプリゼンテーションをモデル化する。
• 確率的勾配降下法を用いて、アイテム選択と表現学習を共同で最適化する微分可能な損失関数を採用する。
• 潜在空間における平行移動メカニズムを採用：インタビュー用アイテムの各々に対して、レーティングに応じて学習済みの埋め込みベクトルをユーザーレプリゼンテーションに加算する。
• 観測済みレーティングの予測誤差を最小化しながら最適なアイテム集合を学習するため、L2正則化付き行列分解に構造的目的関数を適用する。
• 統一されたインダクティブフレームワークにより、コールドスタート（新規ユーザ）とウォームスタート（既存ユーザ）の両状況をサポートする。

実験結果

リサーチクエスチョン

• RQ1 インタビュー項目選択とユーザーレプリゼンテーション学習の共同最適化が、コールドスタート推薦性能を向上させることができるか？
• RQ2 提案されたインダクティブモデルは、最小限のフィードバックしか持たない新規ユーザを扱う際、トランスダクティブ行列分解と比べてどのように性能を発揮するか？
• RQ3 ユーザーレビューのための最適なアイテムセットを学習することで、静的またはヒューリスティックなアイテム選択と比較して、推薦精度がどの程度向上するか？
• RQ4 同一の統一フレームワーク内で、コールドスタートとウォームスタートの両設定に一般化できるか？
• RQ5 潜在空間における翻訳ベースのユーザーレプリゼンテーション機構は、スパースデータにおいて標準的な行列分解よりも優れた一般化性能を示すか？

主な発見

• 提案されたインダクティブアプローチ（IAM）は、MovieLens 1M や Netflix を含む4つの実世界データセットにおいて、ベースラインの協調フィルタリング手法を上回った。
• 静的インタビュー選択や標準的な行列分解と比較して、コールドスタートユーザにおける推薦精度（RMSE および MAE で測定）に顕著な向上を示した。
• インタビュー項目集合とユーザーレプリゼンテーションの両方を同時に学習することで、アイテム選択と表現学習を別々に最適化する手法よりも優れた性能が得られた。
• この手法はウォームスタートの状況に対しても効果的に一般化され、コールドユーザとウォームユーザの両方の環境で一貫性のある性能を示した。
• 翻訳ベースのユーザーレプリゼンテーション機構により、再トレーニングを伴わず、新規ユーザのフィードバックを迅速に統合できる高速な推論が可能になった。
• 実験結果から、本モデルが少ないレーティングからも情報をもつアイテムを適応的に選択し、頑健なレプリゼンテーションを構築できる能力が、その成功の鍵であることが示された。