[論文レビュー] Link Prediction via Generalized Coupled Tensor Factorisation

Beyza Ermiş, Evrim Acar+1 more|arXiv (Cornell University)|Aug 30, 2012

Tensor decomposition and applications参考文献 30被引用数 27

ひとこと要約

本稿では、共有潜在要因を用いて異種データ（行列と高次テンソル）を統合的にモデリングすることで、リンク予測のための一般化結合テンソル因子分解（GCTF）を提案する。適切なテンソルモデル（CP、Tucker）と損失関数（Kullback-Leibler発散、ユークリッド距離）を用いた結合分析が、特に高スパarsity状態およびコールドスタート条件下で予測精度を顕著に向上させることを示している。

ABSTRACT

This study deals with the missing link prediction problem: the problem of predicting the existence of missing connections between entities of interest. We address link prediction using coupled analysis of relational datasets represented as heterogeneous data, i.e., datasets in the form of matrices and higher-order tensors. We propose to use an approach based on probabilistic interpretation of tensor factorisation models, i.e., Generalised Coupled Tensor Factorisation, which can simultaneously fit a large class of tensor models to higher-order tensors/matrices with com- mon latent factors using different loss functions. Numerical experiments demonstrate that joint analysis of data from multiple sources via coupled factorisation improves the link prediction performance and the selection of right loss function and tensor model is crucial for accurately predicting missing links.

研究の動機と目的

• スパースでマルチリレーションラルなデータセットにおける欠落リンクの予測という課題に、異種データソースを活用して対処する。
• データスパarsityと不完全性のため性能が著しく低下する単一ビューモデルの限界を克服する。
• 共有潜在要因を通じて行列とテンソルを統合的に分析することで、リンク予測の精度を向上させる。
• 新規ユーザーに履歴データが一切存在しないコールドスタート問題に対処するため、関連するデータソースからの補助情報を活用する。
• テンソルモデルの選択（CP 対 Tucker）と損失関数（KL 対 ユークリッド）が予測性能に与える影響を調査する。

提案手法

• 共有潜在要因を用いた同時フィッティングを可能にする確率的フレームワークとして、一般化結合テンソル因子分解（GCTF）を採用する。
• 異なる要因分解構造を持つテンソルモデル（CANDECOMP/PARAFAC（CP）と Tucker）を用い、データの複雑さの異なる側面を捉える。
• 多様な損失関数（Kullback-Leibler（KL）発散とユークリッド距離）を適用し、データ分布とノイズ特性に適切に対応する。
• スパースなデータのパターンを尊重する最適化問題として連合因子分解を定式化し、スケーラビリティを確保する。
• GPSトラジェクトリーや位置特徴など、複数のデータソースからのサイド情報を利用し、不完全なデータセットにおけるリンク予測を向上させる。
• スパarsityを保持し、大規模データ上で効率的な計算を可能にするようにカスタマイズされた、GCTFフレームワーク内での反復的更新ルールを実装する。

実験結果

リサーチクエスチョン

• RQ1 行列とテンソルからなる異種データの結合分析は、単一ビューの因子分解と比較して、リンク予測性能をどのように向上させるか？
• RQ2 テンソルモデル（CP 対 Tucker）と損失関数（KL 対 ユークリッド）のどの組み合わせが、最も優れたリンク予測性能を達成するか？
• RQ3 ユーザーのデータが完全に欠落している状況でも、提案された結合モデルはコールドスタート問題を効果的に解決できるか？
• RQ4 データスパarsityが増加するに従って性能はどのように低下するか？また、結合モデルは高 missingness 条件下でも頑健性を保っているか？
• RQ5 補助データソースの使用が、現実世界のスパースデータセットにおけるリンク予測精度を顕著に向上させるか？

主な発見

• 結合モデルは、80％以上のデータが欠落している状況でも、標準的な低ランクテンソル近似を常に上回る性能を示す。
• Kullback-Leibler（KL）発散損失関数は、特に高スパarsity条件下で、ユークリッド距離に基づく損失関数を上回る性能を発揮する。
• Tucker モデルは、完全なコアテンソルのおかげでより高い柔軟性を有するため、CP モデルよりも優れた性能を達成する。
• 提案された結合モデルは、コールドスタート問題を効果的に解決する：10人または50人のユーザーのスライスが完全に欠落している状況でも、補助データを活用することで予測は正確に保たれる。
• 90％のエントリが欠落している状況でも、KL 発散を用いた結合Tuckerモデルが最高のAUCを達成し、極端なスパarsity下でも頑健性を示す。
• GCTFフレームワークは、データスパarsityを尊重するため、大規模な現実世界の応用に適したスケーラブルな推論を可能にする。