[論文レビュー] Collaborative Recommendation with Auxiliary Data: A Transfer Learning View

Weike Pan|arXiv (Cornell University)|Jul 9, 2014

Recommender Systems and Techniques参考文献 23被引用数 3

ひとこと要約

本稿は、補助データ（TL-CRAD）を用いた協調推薦のための転移学習フレームワークを提案する。知識転送をアルゴリズムスタイル（適応的、集合的、統合的）と戦略（予測ルール、正則化、制約）に分類し、汎用的な知識転送フレームワークを導入。代表的手法の分析を通じて、ソーシャルネットワーク、コンテンツ、文脈的情報などの多様な補助データソースを活用することで、推薦精度を向上させる包括的視点を提供する。

ABSTRACT

Intelligent recommendation technology has been playing an increasingly important role in various industry applications such as e-commerce product promotion and Internet advertisement display. Besides users' feedbacks (e.g., numerical ratings) on items as usually exploited by some typical recommendation algorithms, there are often some additional data such as users' social circles and other behaviors. Such auxiliary data are usually related to users' preferences on items behind the numerical ratings. Collaborative recommendation with auxiliary data (CRAD) aims to leverage such additional information so as to improve the personalization services, which have received much attention from both researchers and practitioners. Transfer learning (TL) is proposed to extract and transfer knowledge from some auxiliary data in order to assist the learning task on some target data. In this paper, we consider the CRAD problem from a transfer learning view, especially on how to achieve knowledge transfer from some auxiliary data. First, we give a formal definition of transfer learning for CRAD (TL-CRAD). Second, we extend the existing categorization of TL techniques (i.e., adaptive, collective and integrative knowledge transfer algorithm styles) with three knowledge transfer strategies (i.e., prediction rule, regularization and constraint). Third, we propose a novel generic knowledge transfer framework for TL-CRAD. Fourth, we describe some representative works of each specific knowledge transfer strategy of each algorithm style in detail, which are expected to inspire further works. Finally, we conclude the paper with some summary discussions and several future directions.

研究の動機と目的

• 協調フィルタリングにおけるスパarsity問題を、ソーシャルネットワーク、コンテンツ、文脈的情報などの補助データを活用することで解決すること。
• 補助データを用いた協調推薦（CRAD）を、知識をどのように転送するかに焦点を当てた転移学習問題として形式化すること。
• 予測ルール、正則化、制約の3つの知識転送戦略を導入することで、既存の転移学習分類を拡張すること。
• 多様な技術を統合し、将来の手法開発を支援する、TL-CRADのための汎用的知識転送フレームワークを提案すること。
• 各カテゴリに属する代表的手法を包括的に調査し、異種データ統合と多目的推薦分野におけるさらなる研究を促進すること。

提案手法

• CRADにおける転移学習技術を、3つのアルゴリズムスタイル（適応的、集合的、統合的知識転送）に分類する。
• 3つの知識転送戦略（予測ルール：出力予測の形状づけ、正則化：モデルパラメータの制約、制約：最適化における構造的条件の課し方）を導入する。
• 上記のスタイルと戦略を統合する汎用的知識転送フレームワークを提案。補助データからターゲットデータへの柔軟かつスケーラブルな転送を可能にする。
• ターゲットデータ（ユーザ-アイテム評価）が、補助データ（コンテンツ、文脈、ネットワーク、フィードバック）から抽出した知識を介して向上する学習問題として、TL-CRADを形式的に定義する。
• 代表的手法（例：TCF、RMGM、FM、tagiCoFi）を、そのアルゴリズムスタイルと転送戦略に基づいて提案フレームワークにマッピングする。
• 最適化の定式化を用いて転送プロセスをモデル化。補助データの知識を損失関数、正則化項、制約を通じて埋め込む。

実験結果

リサーチクエスチョン

• RQ1 ソーシャルネットワーク、コンテンツ、文脈といった補助データを、スパースな状況下での協調フィルタリング向上に体系的かつ効果的に活用する方法は何か？
• RQ2 協調推薦における知識転送の基本的メカニズムは何か。それらはどのように分類できるか？
• RQ3 予測ルール、正則化、制約の異なる知識転送戦略は、モデル性能や一般化能力にどのように影響を及ぼすか？
• RQ4 多様な転移学習技術を統合しつつ、柔軟性とスケーラビリティを維持できる汎用フレームワークは可能か？
• RQ5 実世界の推薦システムにおいて、異種の補助データソースを統合する際の主な課題と機会は何か？

主な発見

• アルゴリズムスタイルと転送戦略に分類した本稿の知識転送技術の分類は、CRAD手法の理解と開発を体系的に行うための分類法を提供する。
• 汎用的知識転送フレームワークは、多様な既存手法を効果的に統合し、異なる種類の補助データおよび転送メカニズムにわたる一般化能力を示している。
• TCF、RMGM、tagiCoFi などの代表的手法がフレームワークに効果的にマッピングされ、その適用可能性と解釈可能性が検証された。
• 本研究では、正則化と制約ベースの戦略が、特に補助データにノイズや不完全性がある場合に、スパarsityの低減と一般化能力の向上に顕著に効果的であることが明らかになった。
• 将来の方向性として、異種技術のアンサンブルや多目的最適化は、実世界システムにおける精度、多様性、効率のバランスを取る上で有望であることが示された。
• 転移学習による補助データの統合は、伝統的な推薦パラダイムを拡張し、新たな分野を加えた：補助データを用いた協調推薦。