[論文レビュー] Spectral and matrix factorization methods for consistent community detection in multi-layer networks

Subhadeep Paul, Yuguo Chen|arXiv (Cornell University)|Apr 24, 2017

Complex Network Analysis Techniques被引用数 5

ひとこと要約

本稿は、多層ネットワークにおけるコミュニティ検出のためのスペクトル法および行列分解手法の理論的整合性を、多層ストーキスティックブロックモデル下で確立する。中間統合手法（例えば直交連結行列因子分解や共正則化スペクトルクラスタリング）が、ノード数、層数、コミュニティ数が増加する中で一貫したコミュニティ回復を達成することを証明し、高次元設定下で非漸近的誤差バウンドを導出する。

ABSTRACT

We consider the problem of estimating a consensus community structure by combining information from multiple layers of a multi-layer network using methods based on the spectral clustering or a low-rank matrix factorization. As a general theme, these "intermediate fusion" methods involve obtaining a low column rank matrix by optimizing an objective function and then using the columns of the matrix for clustering. However, the theoretical properties of these methods remain largely unexplored. In the absence of statistical guarantees on the objective functions, it is difficult to determine if the algorithms optimizing the objectives will return good community structures. We investigate the consistency properties of the global optimizer of some of these objective functions under the multi-layer stochastic blockmodel. For this purpose, we derive several new asymptotic results showing consistency of the intermediate fusion techniques along with the spectral clustering of mean adjacency matrix under a high dimensional setup, where the number of nodes, the number of layers and the number of communities of the multi-layer graph grow. Our numerical study shows that the intermediate fusion techniques outperform late fusion methods, namely spectral clustering on aggregate spectral kernel and module allegiance matrix in sparse networks, while they outperform the spectral clustering of mean adjacency matrix in multi-layer networks that contain layers with both homophilic and heterophilic communities.

研究の動機と目的

• 中間統合手法のコミュニティ検出における理論的整合性を確立すること。
• ノード数、層数、コミュニティ数が増加する設定下でのスペクトルクラスタリングおよび低ランク行列分解の漸近的挙動を分析すること。
• Frobeniusノルム最小化などの目的関数を用いた最適化ベースのコミュニティ検出における統計的保証を提供すること。
• 中間統合（例：OLMF、共正則化スペクトルクラスタリング）と後段統合（例：平均隣接行列またはカーネル行列へのスペクトルクラスタリング）を比較すること。
• 多層ストーキスティックブロックモデル下での誤分類率の非漸近的誤差バウンドを導出すること。

提案手法

• 共通のコミュニティ構造を複数の層にわたって同時に推定するために、直交連結行列因子分解（OLMF）を提案し、共同Frobeniusノルム目的関数を最小化する。
• クラスタ構造を整列させるために、各層における正規化カットの合計を最大化し、滑らかさペナルティを導入した共正則化スペクトルクラスタリングを用いる。
• 誤分類率のバウンドに、推定された射影行列と母集団射影行列のスペクトルノルムの乖離を用いて、Davis-Kahan定理を適用する。
• 集中不等式を用いて、経験的目的関数と母集団目的関数の差の高確率バウンドを導出する。
• 行列摂動理論を用いて、推定射影行列の乖離を固有値ギャップとノイズレベルに関連付ける。
• 母集団レベルの目的関数とその最適化子を分析し、多層ストーキスティックブロックモデル下でグローバル最適化子の整合性を確立する。

実験結果

リサーチクエスチョン

• RQ1 中間統合目的関数のグローバル最適化子が、多層ネットワークにおけるコミュニティ検出においてどのような条件下で整合的になるか？
• RQ2 スパースな多層ネットワークにおいて、スペクトルクラスタリングおよび行列分解手法は、後段統合手法に比べてどのように性能を発揮するか？
• RQ3 ノード数と層数が増加する多層ネットワークにおける誤分類率の非漸近的誤差バウンドは何か？
• RQ4 中間統合手法の整合性は、隣接行列の固有値ギャップとノイズレベルにどのように依存するか？
• RQ5 多層ストーキスティックブロックモデル下で、共正則化スペクトルクラスタリングおよび直交連結行列因子分解に対する理論的保証を確立できるか？

主な発見

• ノード数、層数、コミュニティ数が増加する中で、多層ストーキスティックブロックモデル下で中間統合目的関数のグローバル最適化子は整合的である。
• 共正則化スペクトルクラスタリングの誤分類率は、高確率で $ r_{av} \leq \frac{256n_{\max}k\bar{\Delta}\log(2n/\epsilon)}{(\lambda^{\bar{\mathcal{A}}})^{2}nM} $ でバウンドされ、次元が増加する中で整合的であることが示された。
• スパースネットワークおよび同型的・異型的混合層を含むネットワークにおいて、中間統合手法は後段統合手法（例：平均隣接行列へのスペクトルクラスタリングや集約カーネル）を上回る性能を示した。
• 経験的関数と母集団関数の差は、高確率で $ O\left( kM^{3/4} \bar{\Delta}^{1/2} (M^{1/4} \bar{\Delta}^{1/2} + (\log 2M)^{1/2} (\log n)^{2+\epsilon} \bar{\Delta}^{\prime 1/4}) \right) $ でバウンドされ、最適化の安定性が保証された。
• 誤分類率は固有値ギャップ $ \lambda^{\bar{\mathcal{A}}} $ に依存し、ギャップが大きいほど整合性が向上する。
• 理論的結果により、個々の層がノイズが多いかスパースな場合でも、情報の層間共有によりOLMFおよび共正則化スペクトルクラスタリングが一貫したコミュニティ検出を達成できることを確認した。