[論文レビュー] Sparse random graphs: regularization and concentration of the Laplacian

Can M. Le, Elizaveta Levina+1 more|arXiv (Cornell University)|Feb 10, 2015

Complex Network Analysis Techniques参考文献 40被引用数 37

ひとこと要約

本稿は、期待次数が有界なスパースなランダムグラフにおいて、正則化されたラプラシアン行列の濃縮を、グロテンディックの不等式とパビングの議論を用いて確立する。隣接行列に $1/n$ の正則化を加えることで、ラプラシアンが期待値の周囲に濃縮されることを証明し、スパースな領域におけるストークスティック・ブロック・モデルにおける正則化スペクトルクラスタリングの厳密な妥当性を可能にする。

ABSTRACT

We study random graphs with possibly different edge probabilities in the challenging sparse regime of bounded expected degrees. Unlike in the dense case, neither the graph adjacency matrix nor its Laplacian concentrate around their expectations due to the highly irregular distribution of node degrees. It has been empirically observed that simply adding a constant of order $1/n$ to each entry of the adjacency matrix substantially improves the behavior of Laplacian. Here we prove that this regularization indeed forces Laplacian to concentrate even in sparse graphs. As an immediate consequence in network analysis, we establish the validity of one of the simplest and fastest approaches to community detection -- regularized spectral clustering, under the stochastic block model. Our proof of concentration of regularized Laplacian is based on Grothendieck's inequality and factorization, combined with paving arguments.

研究の動機と目的

• 期待次数が有界なスパースなランダムグラフにおけるラプラシアン行列の濃縮結果の欠如に取り組む。
• ノード次数の分散が高いため、標準ラプラシアンが濃縮しないという問題を解決する。
• 各エッジに $1/n$ を加えることで隣接行列を正則化するという経験的実践の理論的裏付けを提供する。
• スパースなネットワークにおけるコミュニティ検出のための正則化スペクトルクラスタリングの理論的妥当性を確立する。
• 濃縮結果を非定型エッジ確率を持つエルデシュ＝レニー・モデルおよびストークスティック・ブロック・モデルへ拡張する。

提案手法

• グロテンディックの不等式を用いて、正則化ラプラシアンの期待値からの偏差の作用素ノルムを評価する。
• コア・リサイドゥアル分解を適用：グラフを高次数ノードのコア集合と低次数ノードのリサイドゥアル集合に分割する。
• パビングの議論を用いて、コアおよびリサイドゥアル成分におけるラプラシアンのスペクトルノルムを制御する。
• 正則化 $A_{\tau} = A + \tau \mathbf{1}\mathbf{1}^T$ を導入し、$ \tau = 1/n$ として次数分布を安定化させ、濃縮性を向上させる。
• 行列の濃縮不等式と次数の濃縮バウンドを組み合わせ、ラプラシアン全体の偏差を制御する。
• デイヴィス＝カハンの定理を用いて、スペクトルノルムの制御を固有ベクトルの摂動と結びつけ、コミュニティ検出の精度に寄与する。

実験結果

リサーチクエスチョン

• RQ1 期待次数が有界なスパースなランダムグラフのラプラシアンは、期待値の周囲に濃縮するか？
• RQ2 隣接行列の正則化により、スパースなグラフにおけるラプラシアンの濃縮が回復可能か？
• RQ3 正則化スペクトルクラスタリングは、スパースなストークスティック・ブロック・モデルで一貫したコミュニティ検出を達成できるか？
• RQ4 スパースな設定においてラプラシアンの濃縮を保証するために必要な最適な正則化レベルは何か？
• RQ5 正則化ラプラシアンのスペクトル的性質は、スパースなネットワークにおけるコミュニティ構造とどのように関連するか？

主な発見

• 期待次数 $d$ が有界な場合、正則化ラプラシアン $L(A_\tau)$ は高確率で $L(\bar{A}_\tau)$ の周囲に濃縮され、$\|L(A_\tau) - L(\bar{A}_\tau)\| \leq C r \log^3 d / \sqrt{d}$ を満たす。
• 正則化 $ \tau = 1/n$ は次数分布を安定化させ、$d$ が有界であっても濃縮を可能にし、スパースなグラフにおける標準ラプラシアンの主な失敗要因を解消する。
• エッジ確率が $a/n$ と $b/n$ のストークスティック・ブロック・モデルにおいて、$a-b$ が $\sqrt{a}$ に対して十分に大きい場合、正則化スペクトルクラスタリングは誤差 $\leq \varepsilon$ でコミュニティを回復する。
• 正則化ラプラシアンのスペクトルギャップは高確率でゼロから離れており、良好な連結性と検出可能性を保証する。
• 適切な $a$, $b$, $n$ の条件下で、正則化ラプラシアンの固有ベクトルは高確率で真のコミュニティ割り当てベクトルと $\varepsilon$ 以内に存在する。
• 証明は、グロテンディックの不等式、パビング技術、およびコア・リサイドゥアル分解の新規な組み合わせに依存しており、スパースな設定における作用素ノルムの制御を可能にする。