[論文レビュー] Coupled Graphs and Tensor Factorization for Recommender Systems and Community Detection

Vassilis N. Ioannidis, Ahmed S. Zamzam+2 more|arXiv (Cornell University)|Sep 22, 2018

Tensor decomposition and applications参考文献 27被引用数 15

ひとこと要約

本稿では、不完全なテンソルとグラフ構造のサイド情報の両方を統合的に活用することで、推薦およびコミュニティ検出の性能を向上させる、新しいモデルであるカップルドグラフテンソル因子分解（CGTF）を提案する。閉形式の更新を備えた新しいADMMベースのアルゴリズムを用いることで、収束保証が得られ、テンソルおよびグラフ両方の欠損データに対しても対応可能であり、実世界のデータセットにおいて、最先端の手法を上回る精度と頑健性を達成する。

ABSTRACT

Joint analysis of data from multiple information repositories facilitates uncovering the underlying structure in heterogeneous datasets. Single and coupled matrix-tensor factorization (CMTF) has been widely used in this context for imputation-based recommendation from ratings, social network, and other user-item data. When this side information is in the form of item-item correlation matrices or graphs, existing CMTF algorithms may fall short. Alleviating current limitations, we introduce a novel model coined coupled graph-tensor factorization (CGTF) that judiciously accounts for graph-related side information. The CGTF model has the potential to overcome practical challenges, such as missing slabs from the tensor and/or missing rows/columns from the correlation matrices. A novel alternating direction method of multipliers (ADMM) is also developed that recovers the nonnegative factors of CGTF. Our algorithm enjoys closed-form updates that result in reduced computational complexity and allow for convergence claims. A novel direction is further explored by employing the interpretable factors to detect graph communities having the tensor as side information. The resulting community detection approach is successful even when some links in the graphs are missing. Results with real data sets corroborate the merits of the proposed methods relative to state-of-the-art competing factorization techniques in providing recommendations and detecting communities.

研究の動機と目的

• ユーザーまたはアイテムのデータが欠損する推薦システムにおけるコールドスタート問題に対処するため、グラフ構造のサイド情報を統合する。
• 部分的に観測されたネットワークにおけるコミュニティ検出を向上させるために、補助情報としてテンソルデータを活用する。
• テンソルとグラフを統合的にモデル化する統一フレームワークを構築し、補完と推論の相互強化を実現する。
• 両方のテンソルと相関行列に存在する欠損エントリを処理できる、効率的かつ収束保証のある最適化アルゴリズムを設計する。

提案手法

• 共有の潜在要因を介してテンソルと複数のグラフを結びつける、共同因子分解モデルとしてのカップルドグラフテンソル因子分解（CGTF）を提案する。
• 収束性を保証し、計算複雑性を低減するために、閉形式の更新を備えた増大ラグランジュ乗数法（ADMM）アルゴリズムを用いる。
• 非負制約を組み込み、増大ラグランジュと変数分割を用いて問題を定式化することで、欠損データを効果的に処理する。
• 最適化問題を再定式化し、各変数に対して強い凸性を確保することで、収束証明を支援する。
• ADMMソルバーにおけるデータのスパarsityを活用し、さらに効率性とスケーラビリティを向上させる。
• CGTFから得られる解釈可能な潜在要因を活用し、リンクが欠損している場合でさえもグラフにおけるコミュニティ検出を実現する。

実験結果

リサーチクエスチョン

• RQ1 欠損データを伴う推薦システムにおいて、テンソルとグラフの共同モデリングがレーティング予測の精度を向上させることができるか？
• RQ2 リンクが部分的に欠損している場合に、テンソルデータがグラフにおけるコミュニティ検出を向上させることができるか？
• RQ3 提案されたCGTFモデルが、不完全なデータを扱う際、既存のCMTFおよびテンソル因子分解手法を上回る性能を示すか？
• RQ4 CGTF用のADMMベースのアルゴリズムが、低コストの計算量と閉形式の更新を達成しながら収束するか？
• RQ5 テンソルのスラブが欠損している場合や、グラフ行列の行または列が欠損している場合に、CGTFフレームワークの頑健性はどの程度か？

主な発見

• 提案されたCGTFモデルは、実世界のデータセットにおいて、最先端のCMTFおよびテンソル因子分解手法を上回る顕著なレーティング予測精度の向上を達成する。
• ADMMベースのアルゴリズムは閉形式の更新を達成し、計算複雑性を低減するとともに、スケーラビリティを実現する。
• 本手法は、テンソルのスラブ欠損やグラフ相関行列のエントリ欠損を含む欠損データに対しても効果的に対処でき、コールドスタート問題を克服する。
• グラフリンクの30％まで欠損していても、CGTF要因を用いることでコミュニティ検出の性能が向上する。
• 実験的結果から、合成データおよび実データの両方において、CGTFは競合手法を上回る推薦精度とコミュニティ検出のF1スコアを達成する。
• 理論的分析により、ADMMアルゴリズムの収束が確認され、漸近的にKKT条件を満たす原始変数および双対変数が得られる。