[論文レビュー] Consistency of Spectral Clustering in Sparse Stochastic Block Models

Jing Lei, Alessandro Rinaldo|arXiv (Cornell University)|Dec 7, 2013

Complex Network Analysis Techniques被引用数 13

ひとこと要約

この論文は、スパースなストーハスティックブロックモデルにおけるスペクトルクラスタリングの一貫性を確立し、最大期待次数が log n に比例する場合でさえコミュニティ回復が達成可能であることを示している。鋭い二値ランダム行列のスペクトルバウンドを用いて、多項式時間のスペクトルクラスタリングおよび球面kメディアン手法が、標準的および次数補正済みモデルの両方で一貫してコミュニティを回復できることを証明している。

ABSTRACT

We analyze the performance of spectral clustering for community extraction in stochastic block models. We show that, under mild conditions, spectral clustering applied to the adjacency matrix of the network can consistently recover hidden communities even when the order of the maximum expected degree is as small as $\log n$, with $n$ the number of nodes. This result applies to some popular polynomial time spectral clustering algorithms and is further extended to degree corrected stochastic block models using a spherical $k$-median spectral clustering method. A key component of our analysis is a combinatorial bound on the spectrum of binary random matrices, which is sharper than the conventional matrix Bernstein inequality and may be of independent interest.

研究の動機と目的

• スペクトルクラスタリングがスパースなストーハスティックブロックモデルにおいて隠れたコミュニティを一貫して回復できる条件を確立すること。
• 球面kメディアンスペクトルクラスタリング手法を用いて、一貫性の結果を次数補正済みストーハスティックブロックモデルに拡張すること。
• 古典的な行列ベルヌーイ不等式よりも鋭い、二値ランダム行列のスペクトルに関する組み合わせ的バウンドを構築すること。
• 最大期待次数がネットワークサイズ n に対して対数的に増加する場合でさえ、一貫性のあるコミュニティ検出が可能であることを示すこと。
• 実用的なスペクトルクラスタリングアルゴリズムがスパースなネットワーク設定でどのように動作するかの理論的裏付けを提供すること。

提案手法

• ストーハスティックブロックモデルに従って生成されたネットワークの隣接行列にスペクトルクラスタリングを適用する分析。
• 行列ベルヌーイ不等式よりも鋭い、二値ランダム行列のスペクトルに関する新規な組み合わせ的バウンドを導入。
• スペクトルバウンドを適用して、最大期待次数が Θ(log n) であるスパースなストーハスティックブロックモデルにおける標準的スペクトルクラスタリングの一貫性を証明。
• 球面kメディアンスペクトルクラスタリング手法を用いて、次数補正済みストーハスティックブロックモデルへの分析を拡張。
• 集中不等式およびスペクトルギャップ解析を用いて、経験的スペクトル射影と母集団射影との乖離を制御。
• 隣接行列の主要固有ベクトルが弱い条件下で真のコミュニティ構造に収束することを示すことにより、一貫性を確立。

実験結果

リサーチクエスチョン

• RQ1 ネットワークがスパースで、最大期待次数が log n に比例する場合、スペクトルクラスタリングはストーハスティックブロックモデルにおいてコミュニティを一貫して回復できるか？
• RQ2 スパースなランダムネットワークにおける隣接行列のスペクトル特性が、スペクトルクラスタリングの性能にどのように影響するか？
• RQ3 スパース性の条件が同様に成り立つ場合、スペクトルクラスタリングの一貫性は次数補正済みストーハスティックブロックモデルへ拡張可能か？
• RQ4 コミュニティ検出の一貫性を可能にするために、二値ランダム行列の固有値に最も鋭いスペクトルバウンドは何か？
• RQ5 球面kメディアンクラスタリングのような手法は、標準的スペクトルクラスタリングが失敗する可能性がある次数補正済みモデルでも一貫性を維持できるか？

主な発見

• 最大期待次数が Θ(log n) である場合、隣接行列にスペクトルクラスタングを適用することで、ストーハスティックブロックモデルにおける隠れたコミュニティを一貫して回復できる。
• 二値ランダム行列のスペクトルに関する新規な組み合わせ的バウンドが確立され、行列ベルヌーイ不等式よりも鋭く、集中制御をより厳密に行える。
• 最大次数が Θ(log n) であっても、多項式時間で実行可能な標準的スペクトルクラスタリングアルゴリズムの一貫性結果が成り立つ。
• 球面kメディアンスペクトルクラスタリング手法により、同じスパース性条件下で次数補正済みストーハスティックブロックモデルにおける一貫性のあるコミュニティ検出が保証される。
• 理論的分析により、n が増加するに従い、隣接行列の主要固有ベクトルが真のコミュニティ構造に高確率で収束することが示された。
• 導出されたスペクトルバウンドは独立した価値を持ち、他の確率的行列理論およびネットワーク解析の問題への応用が期待される。