[論文レビュー] Robustness of spectral methods for community detection

Ludovic Stephan, Laurent Massoulié|arXiv (Cornell University)|Nov 14, 2018

Complex Network Analysis Techniques参考文献 17被引用数 8

ひとこと要約

この論文は、$\delta$-距離行列 $D^{(\ell)}$ に基づくロバストなスペクトルコミュニティ検出法を提案する。ここで $D^{(\ell)}_{ij} = 1$ であるのは、グラフ距離 $d(i,j) = \ell$ のときである。$\ell \sim c\log n$ の場合、$D^{(\ell)}$ の最大固有ベクトルは、ケステン＝スティグム閾値より上での非自明なコミュニティ回復を可能にする。この手法は、$O(n^\varepsilon)$ 頂点に影響を及ぼす敵対的摂動に対しても安定であり、従来のスペクトル手法よりもロバスト性に優れ、最適な KS 閾値を達成し、近似的線形時間で実行される。

ABSTRACT

The present work is concerned with community detection. Specifically, we consider a random graph drawn according to the stochastic block model~: its vertex set is partitioned into blocks, or communities, and edges are placed randomly and independently of each other with probability depending only on the communities of their two endpoints. In this context, our aim is to recover the community labels better than by random guess, based only on the observation of the graph. In the sparse case, where edge probabilities are in $O(1/n)$, we introduce a new spectral method based on the distance matrix $D^{(l)}$, where $D^{(l)}_{ij} = 1$ iff the graph distance between $i$ and $j$, noted $d(i, j)$ is equal to $\ell$. We show that when $\ell \sim c\log(n)$ for carefully chosen $c$, the eigenvectors associated to the largest eigenvalues of $D^{(l)}$ provide enough information to perform non-trivial community recovery with high probability, provided we are above the so-called Kesten-Stigum threshold. This yields an efficient algorithm for community detection, since computation of the matrix $D^{(l)}$ can be done in $O(n^{1+κ})$ operations for a small constant $κ$. We then study the sensitivity of the eigendecomposition of $D^{(l)}$ when we allow an adversarial perturbation of the edges of $G$. We show that when the considered perturbation does not affect more than $O(n^\varepsilon)$ vertices for some small $\varepsilon > 0$, the highest eigenvalues and their corresponding eigenvectors incur negligible perturbations, which allows us to still perform efficient recovery.

研究の動機と目的

• スパースな確率的ブロックモデル（SBM）におけるコミュニティ検出のための、敵対的摂動に対してロバストなスペクトル手法を開発すること。
• ケステン＝スティグム（KS）閾値まで部分的コミュニティ回復を達成すること。これは情報論的に最適であると予想されている。
• 従来のスペクトル手法における技術的仮定（例えば固有ベクトルの非対称性）を排除し、頂点レベルの摂動に対して安定性を向上させること。
• 近似的線形時間複雑度を達成する効率的なアルゴリズムを設計すること。これは、遅い SDP に基づく手法を上回る。

提案手法

• グラフ距離 $d(i,j) = \ell$ のとき $D^{(\ell)}_{ij} = 1$ である距離行列 $D^{(\ell)}$ を用いた新しいスペクトル手法を提案。
• スパースな状態における固有値の分離を活用し、$D^{(\ell)}$ の最大固有値に対応する固有ベクトルを用いてコミュニティ割り当てを実行。
• 最大 $\gamma = o\left(\frac{(\mu_2^2/\mu_1)^{\ell/2}}{\log n}\right)$ 頂点に影響を及ぼす敵対的摂動の下での $D^{(\ell)}$ の固有分解の安定性を分析。
• 理論的ブリッジとしてパス拡張行列 $B^{(\ell)}$ を用い、$D^{(\ell)}$ に対しても同じ回復閾値が成り立つことを証明。
• コミュニティラベルの推定のため、主固有ベクトルに置換不変なクラスタリング手順を適用。
• 条件 $\mu_2^2 > \mu_1$ の下で、$\ell \sim \delta \log n$ に対して十分小さい $\delta$ に対して、確率的に高い確率で部分的回復が達成されることを確立。

実験結果

リサーチクエスチョン

• RQ1 グラフ距離 $d(i,j) = \ell$ に基づくスペクトル手法は、スパースな SBM において非自明なコミュニティ検出を達成できるか？
• RQ2 この手法は、$O(n^\varepsilon)$ 頂点に限局的摂動が加わった場合でも有効に機能するか？
• RQ3 この手法は、ケステン＝スティグム閾値まで部分的回復を達成できるか。これは情報論的限界に一致するか？
• RQ4 この手法の実行時間は、既存の SDP に基づく手法と比較してどうなるか？
• RQ5 小さなクリークや密な部分グラフによって生じる局所的固有ベクトルの影響に対して、この手法はロバストか。これは、従来のスペクトル手法で見られた問題である。

主な発見

• 十分に小さい $\delta$ に対して $\ell \sim \delta \log n$ のとき、$\mu_2^2 > \mu_1$ の条件下で、この手法は高確率で部分的コミュニティ回復を達成する。
• $D^{(\ell)}$ に基づくアルゴリズムは、ケステン＝スティグム閾値まで非自明な回復を達成でき、これは最適であると予想されている。
• 最大 $\gamma = o\left(\frac{(\mu_2^2/\mu_1)^{\ell/2}}{\log n}\right)$ 頂点に影響を及ぼす敵対的摂動に対しても安定であり、最大 $O(n^\varepsilon)$ 頂点が摂動された場合でも回復が可能である。
• アルゴリズムの実行時間は最大 $O(n^{13/12})$ であり、一般的な SDP に基づく手法よりも著しく高速である。
• 従来のスペクトル手法（例えば $B^{(\ell)}$ を用いるもの）が要請するブロック確率行列 $W$ の技術的非対称性条件を排除した。
• この手法は、頂点レベルの摂動に対して従来のスペクトル手法を上回るロバスト性を示すが、SDP 手法が達成する $o(n)$ エッジ摂動の境界には及ばない。