[论文解读] Density Evolution in the Degree-correlated Stochastic Block Model

Elchanan Mossel, Jiaming Xu|arXiv (Cornell University)|Sep 10, 2015

Theoretical and Computational Physics参考文献 35被引用 18

一句话总结

本文推导出在度相关随机块模型中，两个近似大小相等的簇下，误分类顶点最小期望比例的闭式表达式。通过在具有高斯噪声的树状近似上应用信念传播与密度演化分析，表明误分类率是 Q(√v*)，其中 v* 是涉及 μ、ν 和标准正态分布的固定点方程的解。

ABSTRACT

There is a recent surge of interest in identifying the sharp recovery thresholds for cluster recovery under the stochastic block model. In this paper, we address the more refined question of how many vertices that will be misclassified on average. We consider the binary form of the stochastic block model, where $n$ vertices are partitioned into two clusters with edge probability $a/n$ within the first cluster, $c/n$ within the second cluster, and $b/n$ across clusters. Suppose that as $n o \infty$, $a= b+ μ\sqrt{ b} $, $c=b+ ν\sqrt{ b} $ for two fixed constants $μ, ν$, and $b o \infty$ with $b=n^{o(1)}$. When the cluster sizes are balanced and $μ eq ν$, we show that the minimum fraction of misclassified vertices on average is given by $Q(\sqrt{v^*})$, where $Q(x)$ is the Q-function for standard normal, $v^*$ is the unique fixed point of $v= \frac{(μ-ν)^2}{16} + \frac{ (μ+ν)^2 }{16} \mathbb{E}[ anh(v+ \sqrt{v} Z)],$ and $Z$ is standard normal. Moreover, the minimum misclassified fraction on average is attained by a local algorithm, namely belief propagation, in time linear in the number of edges. Our proof techniques are based on connecting the cluster recovery problem to tree reconstruction problems, and analyzing the density evolution of belief propagation on trees with Gaussian approximations.

研究动机与目标

• 确定在簇大小平衡的度相关随机块模型中，顶点被误分类的最小期望比例。
• 表征局部算法（特别是信念传播）在精确恢复不可能的稀疏区域中的性能。
• 以模型参数 μ 和 ν 表示，提供期望误分类率的精确解析表达式。
• 证明信念传播在与边数成线性时间关系下可实现最优误分类率。

提出的方法

• 分析边概率为 a/n、b/n 和 c/n 的随机块模型，其中 a = b + μ√b，c = b + ν√b，且 b = n^o(1)，分别表示簇内、簇间和跨簇的连接概率。
• 应用密度演化技术，追踪信念传播算法在树状局部邻域中的消息传递过程。
• 使用高斯近似来建模信念传播过程中消息的分布，从而实现可处理的分析。
• 推导出表征渐近误分类率的固定点方程：v* = (μ−ν)²/16 + (μ+ν)²/16 × E[tanh(v* + √v* Z)]。
• 通过证明收敛至推导出的固定点，建立信念传播可实现最优误分类率。
• 采用集中不等式和概率界，验证所推导渐近表达式的高概率正确性。

实验结果

研究问题

• RQ1 在簇大小平衡的度相关随机块模型中，被误分类顶点的最小期望比例是多少？
• RQ2 在精确恢复不可能的稀疏区域中，信念传播能否实现最优误分类率？
• RQ3 误分类率如何依赖于度相关参数 μ 和 ν？
• RQ4 是否存在以模型参数表示的期望误分类率的闭式表达式？
• RQ5 Q 函数与固定点方程在表征局部算法渐近性能中起什么作用？

主要发现

• 被误分类顶点的最小期望比例为 Q(√v*)，其中 Q 为标准正态分布的 Q 函数。
• 值 v* 是固定点方程 v = (μ−ν)²/16 + (μ+ν)²/16 × E[tanh(v + √v Z)] 的唯一解。
• 信念传播在 O(nb²) 时间内实现此最优误分类率，与边数呈线性关系。
• 该结果在 μ ≠ ν 条件下成立，确保度相关性与簇结构相关；否则，任何局部算法均无法实现非平凡检测。
• 该分析依赖于树状近似和信念传播中消息分布的高斯近似。
• 所推导的表达式在 n → ∞ 时是精确且渐近精确的，其中 b = n^o(1) 且 b → ∞。