[論文レビュー] Semidefinite Programs on Sparse Random Graphs and their Application to Community Detection

Andrea Montanari, Subhabrata Sen|arXiv (Cornell University)|Apr 22, 2015

Complex Network Analysis Techniques被引用数 6

ひとこと要約

この論文は、平均次数が有界な Erdős-Rényi グラフおよびランダム正則グラフ上の半定値計画問題（SDP）を分析し、$d$ を平均次数として、SDP の値が $2n\sqrt{d} + o(n\sqrt{d})$ に集中することを示している。また、スパースなストーキアスティックブロックモデルにおけるコミュニティ検出において、SDP が情報論的に最適な閾値に達することを確立し、$(a-b)^2/(4d) > 1 + o_d(1)$ の条件下でコミュニティ検出が可能であることを示している。これは、根本的な限界 $(a-b)^2/(4d) > 1$ にほぼ一致する。解析には、高ランクのグロテンディーク不等式、統計物理学からの補間法、および変形されたランダム行列の固有ベクトル解析が組み合わされている。

ABSTRACT

Denote by $A$ the adjacency matrix of an Erdos-Renyi graph with bounded average degree. We consider the problem of maximizing $\langle A-E\{A\},X angle$ over the set of positive semidefinite matrices $X$ with diagonal entries $X_{ii}=1$. We prove that for large (bounded) average degree $d$, the value of this semidefinite program (SDP) is --with high probability-- $2n\sqrt{d} + n\, o(\sqrt{d})+o(n)$. For a random regular graph of degree $d$, we prove that the SDP value is $2n\sqrt{d-1}+o(n)$, matching a spectral upper bound. Informally, Erdos-Renyi graphs appear to behave similarly to random regular graphs for semidefinite programming. We next consider the sparse, two-groups, symmetric community detection problem (also known as planted partition). We establish that SDP achieves the information-theoretically optimal detection threshold for large (bounded) degree. Namely, under this model, the vertex set is partitioned into subsets of size $n/2$, with edge probability $a/n$ (within group) and $b/n$ (across). We prove that SDP detects the partition with high probability provided $(a-b)^2/(4d)> 1+o_{d}(1)$, with $d= (a+b)/2$. By comparison, the information theoretic threshold for detecting the hidden partition is $(a-b)^2/(4d)> 1$: SDP is nearly optimal for large bounded average degree. Our proof is based on tools from different research areas: $(i)$ A new `higher-rank' Grothendieck inequality for symmetric matrices; $(ii)$ An interpolation method inspired from statistical physics; $(iii)$ An analysis of the eigenvectors of deformed Gaussian random matrices.

研究の動機と目的

• スパースなランダムグラフ、特に平均次数が有界な Erdős-Rényi グラフおよびランダム正則グラフにおける半定値計画問題（SDP）の挙動を理解すること。
• ランク1の正定値行列で対角成分が1の制約のもとで、$\langle \mathbf{A} - \mathbb{E}[\mathbf{A}], \mathbf{X} \rangle $ を最大化する SDP の漸近的正確値を特定すること。
• スパースな2コミュニティのストーキアスティックブロックモデルにおいて、SDP が情報論的に最適な検出閾値に達するかどうかを特定すること。
• 特に、スパースグラフにおけるSDPの鋭い解析を可能にする新規の解析的手法—具体的には高ランクのグロテンディーク不等式と補間法—を開発すること。

提案手法

• Erdős-Rényi グラフ $G(n, d/n)$ における SDP の漸近的値を、$2n\sqrt{d} + n\,o(\sqrt{d}) + o(n)$ と導出し、$d$ が十分に大きくかつ有界な場合に高確率で成立することを示す。
• ランダム正則グラフ $G^{{\rm reg}}(n,d)$ に対して、SDP の値が $2n\sqrt{d-1} + o(n)$ に達することを証明し、スペクトル上界と一致することを確認する。
• ランク制約付き SDP 近似の誤差を抑えられるように、対称行列に対する高ランクグロテンディーク不等式を導入する。
• 統計物理学に由来する補間法を用いて、グラフモデルを滑らかに変形し、摂動下での SDP 値の制御を可能にする。
• コミュニティ検出設定における最適解の構造を理解するために、変形されたガウスランダム行列の固有ベクトルを分析する。
• リンデバーグの方法を用いて、スパースグラフの中心化された隣接行列をガウス行列モデルに置き換え、精密な漸近的解析を可能にする。

実験結果

リサーチクエスチョン

• RQ1 スパースな Erdős-Rényi グラフにおける半定値計画問題 $\max \langle \mathbf{A} - \mathbb{E}[\mathbf{A}], \mathbf{X} \rangle $ の漸近的値は何か？ ただし $\mathbf{X} \succeq 0$, $\operatorname{diag}(\mathbf{X}) = \mathbf{1}$ を満たす。
• RQ2 ランダム正則グラフにおける SDP 値は Erdős-Rényi グラフにおけるものとどのように異なるか？ また、スペクトル上界と一致するか？
• RQ3 信号対雑音比が情報論的閾値に近いスパースなストーキアスティックブロックモデルにおいて、半定値計画法はコミュニティを検出できるか？
• RQ4 度数の変動によりスペクトル法が失敗するスパースグラフにおける SDP の解析に、どのような新しい数学的道具が必要か？
• RQ5 スパースグラフにおける SDP 値は、グラフの次数分布にどの程度依存するか？ これはガウスモデルで捉えることができるか？

主な発見

• 平均次数 $d$ の Erdős-Rényi グラフにおいて、$n \to \infty$ のとき、SDP の値は高確率で $2n\sqrt{d} + n\,o(\sqrt{d}) + o(n)$ に収束する。
• 次数 $d$ のランダム正則グラフでは、SDP の値は $2n\sqrt{d-1} + o(n)$ に達し、$2\sqrt{d-1}$ のスペクトル上界と一致する。
• スパースな2コミュニティのストーキアスティックブロックモデルにおいて、SDP は情報論的に最適な検出閾値に達する：$(a-b)^2/(4d) > 1 + o_d(1)$ のとき、コミュニティ検出が可能である。
• コミュニティ検出の根本的限界は $ (a-b)^2/(4d) > 1 $ であるため、SDP は $d$ が十分に大きくかつ有界な場合にほぼ最適である。
• 解析には、低ランク SDP 近似の誤差を抑えられる新しい高ランクグロテンディーク不等式が用いられている。
• 証明には、補間法とリンデバーグの手法が用いられ、隣接行列をガウス行列モデルに置き換えることで、精密な漸近的制御が可能になった。