[論文レビュー] Density Evolution in the Degree-correlated Stochastic Block Model

Elchanan Mossel, Jiaming Xu|arXiv (Cornell University)|Sep 10, 2015

Theoretical and Computational Physics参考文献 35被引用数 18

ひとこと要約

この論文は、2つのほぼ等しいサイズのクラスタをもつ次数相関付きストキャスティックブロックモデルにおける、誤分類頂点の最小期待分数の閉形式表現を導出する。ガウスノイズを伴う木構造近似における信念伝播と密度発展演算の分析を通じて、誤分類率が Q(√v*) であることを示し、ここで v* は μ、ν および標準正規分布を含む固定点方程式の解である。

ABSTRACT

There is a recent surge of interest in identifying the sharp recovery thresholds for cluster recovery under the stochastic block model. In this paper, we address the more refined question of how many vertices that will be misclassified on average. We consider the binary form of the stochastic block model, where $n$ vertices are partitioned into two clusters with edge probability $a/n$ within the first cluster, $c/n$ within the second cluster, and $b/n$ across clusters. Suppose that as $n o \infty$, $a= b+ μ\sqrt{ b} $, $c=b+ ν\sqrt{ b} $ for two fixed constants $μ, ν$, and $b o \infty$ with $b=n^{o(1)}$. When the cluster sizes are balanced and $μ eq ν$, we show that the minimum fraction of misclassified vertices on average is given by $Q(\sqrt{v^*})$, where $Q(x)$ is the Q-function for standard normal, $v^*$ is the unique fixed point of $v= \frac{(μ-ν)^2}{16} + \frac{ (μ+ν)^2 }{16} \mathbb{E}[ anh(v+ \sqrt{v} Z)],$ and $Z$ is standard normal. Moreover, the minimum misclassified fraction on average is attained by a local algorithm, namely belief propagation, in time linear in the number of edges. Our proof techniques are based on connecting the cluster recovery problem to tree reconstruction problems, and analyzing the density evolution of belief propagation on trees with Gaussian approximations.

研究の動機と目的

• バランスの取れたクラスタサイズの下で、次数相関付きスロットキャスティックブロックモデルにおける誤分類頂点の最小期待分数を特定すること。
• 正確な回復が不可能なスパースな状態において、局所的アルゴリズム、特に信念伝播の性能を特徴づけること。
• モデルパラメータ μ と ν の観点から、期待誤分類率の明確な解析的表現を提供すること。
• 信念伝播が、エッジ数に対して線形時間 O(nb²) で最適誤分類率に到達することを確立すること。

提案手法

• エッジ確率がクラスタ内およびクラスタ間でそれぞれ a/n、b/n、c/n であるスロットキャスティックブロックモデルを分析し、ここで a = b + μ√b および c = b + ν√b であり、b = n^o(1) である。
• 木構造的局所近傍における信念伝播アルゴリズムのメッセージ伝達を追跡するために、密度発展演算技術を適用する。
• 信念伝播プロセスにおけるメッセージ分布をモデル化するためのガウス近似を用い、解析を容易にする。
• 漸近的誤分類率を特徴付ける固定点方程式 v* = (μ−ν)²/16 + (μ+ν)²/16 × E[tanh(v* + √v* Z)] を導出する。
• 固定点への収束を示すことにより、信念伝播が最適誤分類率に到達することを確立する。
• 集中不等式および確率的バウンドを用いて、導出された漸近的表現の高確率的正しさを検証する。

実験結果

リサーチクエスチョン

• RQ1 バランスの取れたクラスタサイズの下で、次数相関付きスロットキャスティックブロックモデルにおける誤分類頂点の最小期待分数は何か？
• RQ2 正確な回復が不可能なスパースな状態において、信念伝播は最適誤分類率に到達できるか？
• RQ3 誤分類率は次数相関パラメータ μ と ν にどのように依存するか？
• RQ4 モデルパラメータの観点から、期待誤分類率の閉形式表現は存在するか？
• RQ5 Q関数と固定点方程式は、局所的アルゴリズムの漸近的性能を特徴付ける上で果たす役割は何か？

主な発見

• 誤分類頂点の最小期待分数は Q(√v*) であり、ここで Q は標準正規分布のQ関数である。
• 値 v* は固定点方程式 v = (μ−ν)²/16 + (μ+ν)²/16 × E[tanh(v + √v Z)] の一意な解である。
• 信念伝播は O(nb²) 時間でこの最適誤分類率に到達し、エッジ数に対して線形時間である。
• μ ≠ ν である条件のもとで、この結果は成り立つ。これはクラスタ構造と次数相関が存在することを保証するが、そうでなければ局所的アルゴリズムは非自明な検出を達成できない。
• 解析は木構造近似および信念伝播におけるメッセージ分布のガウス近似に依存する。
• 導出された表現は鋭く、n → ∞ の下で b = n^o(1) かつ b → ∞ である限り、漸近的に正確である。