[論文レビュー] Multisection in the Stochastic Block Model using Semidefinite Programming

Naman Agarwal, Afonso S. Bandeira+2 more|arXiv (Cornell University)|Jul 8, 2015

Bayesian Modeling and Causal Inference被引用数 6

ひとこと要約

本稿では、$k$ 個のコミュニティを有するストーキアスティックブロックモデル（SBM）における正確なコミュニティ回復のための半定形計画（SDP）に基づくアルゴリズムを提案する。$k = o(\log n)$ のとき、$\sqrt{\alpha} - \sqrt{\beta} > 1$ であれば、高確率で正確な回復が達成され、情報理論的限界と一致する。これにより、この領域における最適性が確立される。

ABSTRACT

We consider the problem of identifying underlying community-like structures in graphs. Towards this end we study the Stochastic Block Model (SBM) on $k$-clusters: a random model on $n=km$ vertices, partitioned in $k$ equal sized clusters, with edges sampled independently across clusters with probability $q$ and within clusters with probability $p$, $p>q$. The goal is to recover the initial "hidden" partition of $[n]$. We study semidefinite programming (SDP) based algorithms in this context. In the regime $p = \frac{α\log(m)}{m}$ and $q = \frac{β\log(m)}{m}$ we show that a certain natural SDP based algorithm solves the problem of {\em exact recovery} in the $k$-community SBM, with high probability, whenever $\sqrtα - \sqrtβ > \sqrt{1}$, as long as $k=o(\log n)$. This threshold is known to be the information theoretically optimal. We also study the case when $k=θ(\log(n))$. In this case however we achieve recovery guarantees that no longer match the optimal condition $\sqrtα - \sqrtβ > \sqrt{1}$, thus leaving achieving optimality for this range an open question.

研究の動機と目的

• 等しいサイズの $k$ 個のクラスタを有するストーキアスティックブロックモデル（SBM）におけるコミュニティ構造の正確な回復のための計算的に効率的なアルゴリズムの開発。
• SBMにおける正確な回復の情報理論的および計算的限界を、$k$ コミュニティモデルの下で特定すること。
• 異なる $p$ および $q$ の辺確率における、特定の半定形計画（SDP）緩和の性能を分析すること。
• SDPに基づく回復限界の最適性を、$k = o(\log n)$ のとき証明し、情報理論的下界と一致させること。
• $k = \Theta(\log n)$ のとき、情報理論的限界と計算可能性の間のギャップを調査すること。

提案手法

• 本稿では、SBMにおけるコミュニティ検出のための最尤推定問題の半定形計画（SDP）緩和を採用する。
• 真の分割が、条件 $\sqrt{\alpha} - \sqrt{\beta} > 1$ の下でSDPの唯一の最適解であることを証明するため、双対証明を構築する。
• エッジ数の期待値からの逸脱を制御するため、チェルノフおよびホエーディングの不等式を含む集中不等式を用いる。
• スペクトルノルムの境界と行列摂動理論に依拠して、最適SDP解が高確率で真のクラスタ行列に近いことを示す。
• 単調な敵対的モデルにおいて、エッジの追加および削除に対してもSDP解が安定しており、正確な回復が保たれることを証明する。
• 特に、隣接行列の挙動とその期待ブロック構造からの逸脱に注目し、確率的技法と行列解析を用いて理論的保証を導出する。

実験結果

リサーチクエスチョン

• RQ1 $k = o(\log n)$ のとき、半定形計画に基づくアルゴリズムは $k$ コミュニティのストーキアスティックブロックモデルで正確な回復を達成できるか？
• RQ2 限界 $\sqrt{\alpha} - \sqrt{\beta} > 1$ は、$k$-SBMにおける正確な回復にとって情報理論的に必要かつ計算的に十分であるか？
• RQ3 $k = \Theta(\log n)$ のとき、回復性能はどのように変化し、SDP手法は依然として情報理論的限界に達するか？
• RQ4 エッジの追加や削除といった敵対的変更に対して、SDP解はどれほど頑健か？
• RQ5 双対証明法を用いて、$k$-SBMにおけるSDP回復限界の最適性を証明できるか？

主な発見

• $k = o(\log n)$ のとき、$\sqrt{\alpha} - \sqrt{\beta} > 1$ であれば、SDPに基づくアルゴリズムは高確率で正確な回復を達成し、情報理論的限界と一致する。
• 限界 $\sqrt{\alpha} - \sqrt{\beta} > 1$ が最適であることが示され、これは正確な回復の不可能性から可能性への鋭い遷移を示している。
• $k = \Theta(\log n}$ のとき、SDP手法はもはや情報理論的限界に達しなく、この領域では計算的限界と情報理論的限界の間にギャップが生じている。
• 最適SDP解は一意的であり、提示された条件下で高確率で真の分割に正確に対応する。
• エッジの追加や削除を伴う単調な敵対的攻撃に対しても、SDP解は頑健であり、摂動の下でも正確な回復が保たれる。
• 偏差行列 $H^*$ のスペクトルノルムが $O(\delta_{\text{max}})$ であることが示され、集中不等式により $\|H^*\| \leq \sqrt{n}$ が導かれる。これにより、双対証明の妥当性が裏付けられる。