[論文レビュー] Probabilistic Models for Unified Collaborative and Content-Based Recommendation in Sparse-Data Environments

Alexandrin Popescul, Lyle Ungar+2 more|arXiv (Cornell University)|Jan 10, 2013

Recommender Systems and Techniques参考文献 25被引用数 440

ひとこと要約

本稿では、Hofmannのトピックモデルの三重共起拡張を用いて、ユーザー・アイテムの相互作用とアイテムコンテンツを統合的にモデル化する確率的フレームワークを提案する。EM学習による自然な協調的信号とコンテンツベース信号のバランスにより、スパースデータ環境下でk-NNを著しく上回る性能を発揮し、ResearchIndexデータセット上での実験で推薦品質と局所的手法の一般化性能が向上したことが示された。

ABSTRACT

Recommender systems leverage product and community information to target products to consumers. Researchers have developed collaborative recommenders, content-based recommenders, and (largely ad-hoc) hybrid systems. We propose a unified probabilistic framework for merging collaborative and content-based recommendations. We extend Hofmann's [1999] aspect model to incorporate three-way co-occurrence data among users, items, and item content. The relative influence of collaboration data versus content data is not imposed as an exogenous parameter, but rather emerges naturally from the given data sources. Global probabilistic models coupled with standard Expectation Maximization (EM) learning algorithms tend to drastically overfit in sparse-data situations, as is typical in recommendation applications. We show that secondary content information can often be used to overcome sparsity. Experiments on data from the ResearchIndex library of Computer Science publications show that appropriate mixture models incorporating secondary data produce significantly better quality recommenders than k-nearest neighbors (k-NN). Global probabilistic models also allow more general inferences than local methods like k-NN.

研究の動機と目的

• 推薦システムにおけるデータスパarsityの課題を、協調的およびコンテンツベース信号の統合によって解決すること。
• 二次的コンテンツ情報による正則化を通じて、スパース環境下でも過剰適合を回避するグローバル確率モデルの構築。
• 外部のハイパーパrameterを必要とせず、データ駆動的に協調的およびコンテンツベースの影響を自然にバランスさせること。
• k-NNのような局所的手法を上回る推薦品質および一般化性能の向上。
• 実世界のスパースデータ環境下で、マルチソース共起データを統合した混合モデルの有効性を実証すること。

提案手法

• Hofmannのトピックモデルを拡張し、ユーザー、アイテム、アイテムコンテンツの三重共起をモデル化する。
• 生成的確率的フレームワークを採用し、ユーザーの好みをコンテンツおよび相互作用データから導出される潜在的トピックの混合としてモデル化する。
• パラメータ学習に期待最大化（EM）アルゴリズムを適用し、潜在的トピックと観測データの両方を同時に推論可能にする。
• 出版メタデータなどの二次的コンテンツ特徴量を統合し、スパースデータ環境下での学習の正則化および安定化を図る。
• 潜在的トピックを介して、ユーザー・アイテム評価とアイテムコンテンツが条件付き独立とみなされるように設計し、統合的モデリングを可能にする。
• 協調的およびコンテンツベース信号の動的重み付けを可能にする混合モデルを採用し、データの可用性および一貫性に応じて信号の影響を調整する。

実験結果

リサーチクエスチョン

• RQ1 スパースな推薦環境下において、協調的およびコンテンツベース信号を統合的に効果的に組み合わせられる統合的確率モデルは存在するか？
• RQ2 二次的コンテンツ情報は、データスパarsity下でのグローバル確率モデルにおける過剰適合をどのように軽減できるか？
• RQ3 提案手法は、推薦品質および一般化性能の観点で、k-NNのような局所的手法を上回るか？
• RQ4 協調的およびコンテンツベース信号の相対的影響は、統合的生成的フレームワーク内でどれほど自然にバランスされるか？
• RQ5 本モデルは、k-NNのような局所的・近傍ベースの手法よりも洗練された推論を可能にするか？

主な発見

• 提案された統合的モデルは、特にスパースデータ環境下で、ResearchIndexデータセット上での推薦品質においてk-NNを著しく上回った。
• 二次的コンテンツ情報の統合により、そうでない場合に顕著に悪化するグローバル確率モデルの過剰適合が効果的に抑制された。
• 協調的信号とコンテンツベース信号の相対的影響は、ハイパーパrameterの手動チューニングを一切必要とせず、データから自然に導かれた。
• グローバル確率的モデリングにより、k-NNのような局所的手法に制限された最近傍予測に比べ、より汎用的かつ強固な推論が可能となった。
• ユーザーの好みを両方の相互作用とアイテムコンテンツに一貫して表現する潜在的トピックを活用することで、本モデルはより高い性能を達成した。
• 実験結果から、マルチソースデータを統合した混合モデルは、独立した協調的またはコンテンツベースの手法よりも高い品質の推薦を実現することが確認された。