[論文レビュー] Collaborative Ensemble Learning: Combining Collaborative and Content-Based Information Filtering via Hierarchical Bayes

Kai Yu, Anton Schwaighofer+3 more|arXiv (Cornell University)|Oct 19, 2012

Recommender Systems and Techniques参考文献 28被引用数 69

ひとこと要約

本論文は、階層ベイズモデリングを用いて協調フィルタリング（CF）とコンテンツベースフィルタリング（CBF）を統合する確率的フレームワーク、コラボラティブアンサンブル学習を提案する。ユーザーのプロファイルを確率的SVMでモデル化し、それらをアンサンブルとしての「プロファイル社会」に統合して予測を実行する。グローバルな再トレーニングを必要とせず、高い推薦精度を達成しており、Reuters-21578およびアート画像データセットで検証済み。

ABSTRACT

Collaborative filtering (CF) and content-based filtering (CBF) have widely been used in information filtering applications. Both approaches have their strengths and weaknesses which is why researchers have developed hybrid systems. This paper proposes a novel approach to unify CF and CBF in a probabilistic framework, named collaborative ensemble learning. It uses probabilistic SVMs to model each user's profile (as CBF does).At the prediction phase, it combines a society OF users profiles, represented by their respective SVM models, to predict an active users preferences(the CF idea).The combination scheme is embedded in a probabilistic framework and retains an intuitive explanation.Moreover, collaborative ensemble learning does not require a global training stage and thus can incrementally incorporate new data.We report results based on two data sets. For the Reuters-21578 text data set, we simulate user ratings under the assumption that each user is interested in only one category. In the second experiment, we use users' opinions on a set of 642 art images that were collected through a web-based survey. For both data sets, collaborative ensemble achieved excellent performance in terms of recommendation accuracy.

研究の動機と目的

• 単独の協調フィルタリング（CF）とコンテンツベースフィルタリング（CBF）の限界を克服し、両者の長所を統合した単一の確率的フレームワークを構築すること。
• ユーザーのプロファイルモデリングと集団的なユーザー行動の統合により、CFのコールドスタート問題とCBFのスパarsity問題を緩和すること。
• グローバルな再トレーニングを回避しながらも高い予測精度を維持する、スケーラブルでインクリメンタルな推薦システムを開発すること。
• ローカルでプロファイルに基づくアンサンブル機構を活用することで、新規ユーザーおよび新規アイテムへのリアルタイム適応を可能にすること。
• 情報フィルタリングにおける多様なユーザーモデリング手法を統合する、整合的な確率的基盤を提供すること。

提案手法

• 各ユーザーの好みのプロファイルを確率的サポートベクターマシン（PSVM）を用いてモデル化し、アイテムの属性から得られるコンテンツベースの特徴を捉える。
• 集団的なユーザー行動を「プロファイルの社会」として表現し、各ユーザーのPSVMをその好みのローカルモデルとして位置づける。
• 個々のユーザーのモデルを階層ベイズフレームワークを通じて統合し、協調的な信号を活用してアクティブユーザーの好みを予測する。
• アクティブユーザーとの関連性と類似度に基づいてプロファイルの重みを割り当てる確率的組み合わせ方式を採用し、耐性を確保する。
• グローバルなトレーニング戦略を採用せず、各ユーザーのモデルを段階的に更新することで、システム全体の再トレーニングなしにリアルタイムでの適応を可能にする。
• 階層ベイズを用いてユーザー好みの不確実性をモデル化し、ユーザー間で情報を共有することで一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 協調フィルタリングとコンテンツベースフィルタリングを、単一の確率的フレームワーク内で効果的に統合する方法は何か？
• RQ2 ユーザーのプロファイルの階層ベイズアンサンブルは、従来のCFおよびCBF手法を上回る推薦精度を達成できるか？
• RQ3 提案手法は、グローバルな再トレーニングを必要とせずにインクリメンタル学習をサポートできるか？
• RQ4 アンサンブルモデルは、コールドスタートユーザーおよびスパースデータ環境においてどれほど一般化性能を発揮するか？
• RQ5 ローカルなユーザーのプロファイルを確率的集約によって統合することで、推薦性能にどのような影響を与えるか？

主な発見

• 提案されたコラボラティブアンサンブル学習手法は、Reuters-21578テキストデータセットおよびアート画像サーベイデータセットの両方で優れた推薦精度を達成した。
• Reuters-21578データセットでは、単一カテゴリの関心を仮定したユーザー評価のシミュレーションを行い、データスパarsityにもかかわらず強力な性能を示した。
• 642枚のアート画像データセットでは、ユーザーの意見を効果的に活用し、ローカルプロファイルの更新のみで正確な推薦を実現した。
• 原理的確率的アンサンブルにより、CFとCBFの補完的長所を統合したため、ベースラインのCFおよびCBFアプローチを上回った。
• インクリメンタル学習の能力のおかげで、グローバルな再トレーニングを伴わず、新規ユーザーおよび新規アイテムに適応でき、効率性を維持した。
• 階層ベイズフレームワークにより、不確実性の推定が堅牢になり、特にデータが少ない状況でも一般化性能が向上した。