[論文レビュー] Orthogonal symmetric non-negative matrix factorization under the stochastic block model

Subhadeep Paul, Yuguo Chen|arXiv (Cornell University)|May 17, 2016

Complex Network Analysis Techniques参考文献 43被引用数 10

ひとこと要約

本稿では、ストークスティック・ブロック・モデル（SBM）および度数補正付きストークスティック・ブロック・モデル（DCSBM）の下で一貫性を示す、ネットワークにおけるコミュニティ検出のための正規化ラプラシアン行列に対する直交的対称非負値行列三重因子分解（OSNTF）を提案する。最適化による近似と不変部分空間への関連付けにより、スパースで多様性のあるネットワーク、および政治的ブログや空手部のクラブといったベンチマークネットワークにおいて、スペクトルクラスタリングおよび最先端手法を上回る性能を達成する。

ABSTRACT

We present a method based on the orthogonal symmetric non-negative matrix tri-factorization of the normalized Laplacian matrix for community detection in complex networks. While the exact factorization of a given order may not exist and is NP hard to compute, we obtain an approximate factorization by solving an optimization problem. We establish the connection of the factors obtained through the factorization to a non-negative basis of an invariant subspace of the estimated matrix, drawing parallel with the spectral clustering. Using such factorization for clustering in networks is motivated by analyzing a block-diagonal Laplacian matrix with the blocks representing the connected components of a graph. The method is shown to be consistent for community detection in graphs generated from the stochastic block model and the degree corrected stochastic block model. Simulation results and real data analysis show the effectiveness of these methods under a wide variety of situations, including sparse and highly heterogeneous graphs where the usual spectral clustering is known to fail. Our method also performs better than the state of the art in popular benchmark network datasets, e.g., the political web blogs and the karate club data.

研究の動機と目的

• スパarsityおよび多様性に強い、複雑なネットワークにおける頑健なコミュニティ検出手法の開発。
• ストークスティック・ブロック・モデル（SBM）および度数補正付きストークスティック・ブロック・モデル（DCSBM）の下での理論的一貫性の確立。
• スペクトルクラスタリングのスパースで多様性のあるグラフにおける限界を克服するため、非負値行列因子分解を活用。
• 既存のクラスタリング手法に対する理論的根拠に基づく、解釈可能で計算的に実行可能な代替手法の提供。

提案手法

• 本手法は、正規化グラフ・ラプラシアン行列に直交的対称非負値行列三重因子分解（OSNTF）を適用する。
• 非負性および直交性の制約の下でフロベニウスノルムを最小化する最適化問題を定式化し、ラプラシアン行列の近似因子分解を計算する。
• 因子分解は不変部分空間の非負値基底と関連づけられ、スペクトルクラスタリングと類似する。
• 摂動理論（デイヴィス＝カハンの定理）を用いて、推定された部分空間因子と真の因子との差を評価する。
• ラプラシアン行列のスペクトルギャップと因子分解誤差を関連付けることで、理論的一貫性を確立する。
• シミュレーションスタディおよびベンチマークネットワークにおける実データ解析を通じて、手法の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 正規化ラプラシアン行列に対するOSNTFは、ストークスティック・ブロック・モデル（SBM）の下で一貫性のあるコミュニティ検出を実現できるか？
• RQ2 本手法は、スパースで多様性のあるネットワークにおいて、スペクトルクラスタリングに比べてどのように性能を発揮するか？
• RQ3 スペクトルクラスタリングが失敗する状況でも、非負値因子分解フレームワークは真のコミュニティ構造を回復できるか？
• RQ4 因子化された成分とラプラシアン行列の不変部分空間との間には、理論的関係が存在するか？
• RQ5 本手法は、実世界のネットワークデータセットにおいて、最先端のアルゴリズムを上回る性能を示すか？

主な発見

• 本手法は、ストークスティック・ブロック・モデル（SBM）および度数補正付きストークスティック・ブロック・モデル（DCSBM）の両モデルの下で、コミュニティ検出に対して理論的一貫性を達成する。
• スペクトルクラスタリングが失敗することが知られるスパースで極めて多様性のあるグラフにおいて、本手法は標準的なスペクトルクラスタリングを上回る。
• 政治的ブログネットワークや空手部のクラブネットワークといったベンチマークデータセットにおいて、本手法は最先端のアルゴリズムを上回るクラスタリング精度を達成する。
• 摂動解析により、因子分解誤差がスペクトルギャップの逆数に比例して有界であることが示され、コミュニティ構造の安定回復が保証される。
• 推定された因子行列と真の因子行列との差のフロベニウスノルムは、ラプラシアン行列の最小の非ゼロ固有値の二乗の逆数に比例する項によって有界である。
• 隣接行列がスパースである場合や度数分布が極めて多様性がある場合でも、本手法はコミュニティ構造を的確に同定することができる。