[論文レビュー] A Tensor Spectral Approach to Learning Mixed Membership Community Models

Animashree Anandkumar, Rong Ge+2 more|arXiv (Cornell University)|Feb 12, 2013

Tensor decomposition and applications参考文献 30被引用数 109

ひとこと要約

本稿では、ノードが分数のメンバー資格で複数のコミュニティに属することができる混合メンバー構造コミュニティモデルにおける保証付きコミュニティ検出のためのテンソルスペクトル法を提案する。低次の3スターカウントテンソルとSVDおよびパワー反復を用いたスペクトル分解により、有限標本保証付きでコミュニティメンバーシップとモデルパラメータの決定的回復が達成され、ストークスティックブロックモデルにおける最適スケーリングと一致する。

ABSTRACT

Detecting hidden communities from observed interactions is a classical problem. Theoretical analysis of community detection has so far been mostly limited to models with non-overlapping communities such as the stochastic block model. In this paper, we provide guaranteed community detection for a family of probabilistic network models with overlapping communities, termed as the mixed membership Dirichlet model, first introduced in Airoldi et al. (2008). This model allows for nodes to have fractional memberships in multiple communities and assumes that the community memberships are drawn from a Dirichlet distribution. Moreover, it contains the stochastic block model as a special case. We propose a unified approach to learning communities in these models via a tensor spectral decomposition approach. Our estimator uses low-order moment tensor of the observed network, consisting of 3-star counts. Our learning method is based on simple linear algebraic operations such as singular value decomposition and tensor power iterations. We provide guaranteed recovery of community memberships and model parameters, and present a careful finite sample analysis of our learning method. Additionally, our results match the best known scaling requirements for the special case of the (homogeneous) stochastic block model.

研究の動機と目的

• 既存のコミュニティ検出手法が非重複コミュニティを仮定しているという制限に対処すること。
• 重複ネットワークモデルにおける混合メンバー構造を伴うコミュニティ学習の理論的保証付き手法を提供すること。
• ストークスティックブロックモデルのような非重複モデルからの理論的保証を、より一般的な混合メンバー構造ディリクレモデルへと拡張すること。
• 低次のモーメントテンソルに基づく計算効率の良い学習アルゴリズムを開発すること。

提案手法

• 本手法は、ネットワークの高次構造の十分統計量として3スターカウントテンソルを用いる。
• パワー反復を用いたテンソルスペクトル分解により、観測されたテンソルから潜在的なコミュニティ構造を抽出する。
• テンソルのアンフォールド行列に対する特異値分解（SVD）を活用して、コミュニティメンバーシップベクトルを推定する。
• ノードのメンバーシップをディリクレ分布からの抽出とモデル化することで、重複コミュニティにおける確率的推論を可能にする。
• 複雑な最適化やサンプリング手順を避けるために、低次のモーメントのみを用いる。
• スケーラブルで、有限標本解析に適したように設計されている。

実験結果

リサーチクエスチョン

• RQ1 理論的保証のもとで、混合メンバー構造を伴う重複ネットワークモデルにおけるコミュニティ検出は信頼性を持って実行可能か？
• RQ2 低次のモーメントテンソルは、確率的ネットワークモデルにおけるコミュニティ構造の回復にどのように利用可能か？
• RQ3 既存の手法と比較して、混合メンバー構造モデルにおけるテンソルベースの手法の有限標本性能はいかがなものか？
• RQ4 提案手法は、ストークスティックブロックモデルの特殊ケースにおいて最適スケーリングを達成するか？
• RQ5 テンソル上のスペクトル技法は、コミュニティメンバーシップとモデルパラメータの両方の一貫性のある推定を可能にするか？

主な発見

• 提案されたテンソルスペクトル法は、混合メンバー構造ディリクレモデルのもとで、コミュニティメンバーシップとモデルパラメータの保証付き回復を達成する。
• ネットワークサイズとコミュニティ構造に応じて、良好にスケーリングされる有限標本誤差バウンドを提供する。
• 同質的ストークスティックブロックモデルにおける最良の既知の標本複雑度スケーリングと一致し、この特殊ケースにおける最適性を確認する。
• 3スターカウントテンソルの使用により、高次モーメント計算を最小限に抑えた一貫性のある推定が可能になる。
• アルゴリズムはロバストで計算的に効率的であり、SVDとパワー反復のみに依存する。
• 理論的枠組みは重複と非重複の両方のコミュニティ構造をサポートし、従来のアプローチを統合する。