[論文レビュー] Learning from Multi-View Structural Data via Structural Factorization Machines.

Chun-Ta Lu, Lifang He+2 more|arXiv (Cornell University)|Apr 10, 2017

Recommender Systems and Techniques被引用数 2

ひとこと要約

本稿では、複数の視点の構造的データ間の共有潜在空間を学習するとともに、各視点の寄与度を自動で重み付けするマルチテンソルベースのモデルである構造的要因分解機（SFMs）を提案する。SFMsは多方向の相互作用を保持し、線形の計算量で実現され、実世界のデータセットにおいて予測精度と計算効率の両面で最先端の手法を上回る。

ABSTRACT

Real-world relations among entities can often be observed and determined by different perspectives/views. For example, the decision made by a user on whether to adopt an item relies on multiple aspects such as the contextual information of the decision, the item's attributes, the user's profile and the reviews given by other users. Different views may exhibit multi-way interactions among entities and provide complementary information. In this paper, we introduce a multi-tensor-based approach that can preserve the underlying structure of multi-view data in a generic predictive model. Specifically, we propose structural factorization machines (SFMs) that learn the common latent spaces shared by multi-view tensors and automatically adjust the importance of each view in the predictive model. Furthermore, the complexity of SFMs is linear in the number of parameters, which make SFMs suitable to large-scale problems. Extensive experiments on real-world datasets demonstrate that the proposed SFMs outperform several state-of-the-art methods in terms of prediction accuracy and computational cost.

研究の動機と目的

• ユーザーのプロフィール、アイテムの属性、レビューやその他の複数の視点で相互作用する複雑なマルチビュー構造的データをモデル化する課題に対処すること。
• マルチビュー・データに内在する多方向の相互作用および構造的関係を保持することで、予測モデリングの性能を向上させること。
• パrameter数に対して線形の複雑さを維持するスケーラブルなモデルを開発し、大規模データセットへの応用を可能にすること。
• 予測プロセスにおける異なる視点の相対的重要性を自動で学習することで、モデルの適応性と性能を向上させること。

提案手法

• SFMsは、各視点（例：ユーザー・アイテム間の相互作用、属性に基づく特徴）から得られるエンティティ間の相互作用を記述する複数のテンソルとしてマルチビュー・データを表現する。
• すべての視点にわたって共有される低ランクの潜在空間を学習することで、パラメータの共有を実現し、モデルの複雑さを低減する。
• 各視点の予測的関連性に基づいて、最終的な予測への寄与度を動的に調整する視点固有の重み付け機構を導入する。
• 構造的テンソル分解を用いて、複数の視点にわたる要因分解された相互作用を組み合わせることで、多方向の相互作用パターンを維持する予測関数を構築する。
• 高次元の相互作用の効率的パラメータ化と因子分解により、パrameter数に対して線形の複雑さを達成する。

実験結果

リサーチクエスチョン

• RQ1 複雑で多方向の相互作用を有するマルチビュー構造的データを、統合的な予測フレームワーク内で効果的にモデル化するにはどうすればよいか？
• RQ2 各視点に内在する構造的関係を保持しつつ、複数の視点にわたる共有潜在空間を学習できるか？
• RQ3 固定または均一な視点寄与度と比較して、自動視点重み付けが予測性能をどの程度向上できるか？
• RQ4 提案手法は、大規模な実世界データセットにおいて、計算コストと予測精度の両面でどの程度スケーリング可能か？

主な発見

• SFMsは、実世界のマルチビュー・データセットにおいて、いくつかの最先端手法を上回る高い予測精度を達成し、複雑な相互作用のモデリングが優れていることを示した。
• モデルの複雑さはパrameter数に対して線形にスケーリングされ、大規模データにおける効率的な学習と推論を可能にした。
• 自動視点重み付け機構により、予測時により情報量の多い視点を適応的に強調することで、性能が顕著に向上した。
• 実験結果から、異種的かつ多様な特徴を有するデータセットにおいて、SFMsは精度と計算コストの両面で既存手法を上回っていることが示された。