[论文解读] Community detection in general stochastic block models: fundamental limits and efficient recovery algorithms

Emmanuel Abbé, Colin Sandon|arXiv (Cornell University)|Mar 2, 2015

Complex Network Analysis Techniques参考文献 56被引用 65

一句话总结

本文通过引入一种新型散度度量 $ D_+ $，在一般随机块模型（SBM）中建立了具有多个非对称社区的社区检测的根本极限，该度量推广了 Hellinger 和 Chernoff 散度。论文提出了一种准线性时间算法，可实现信息论阈值下的精确恢复，证明在多社区情况下不存在计算与信息论之间的差距——这与此前关于超过四个社区时检测问题的猜想相反。

ABSTRACT

New phase transition phenomena have recently been discovered for the stochastic block model, for the special case of two non-overlapping symmetric communities. This gives raise in particular to new algorithmic challenges driven by the thresholds. This paper investigates whether a general phenomenon takes place for multiple communities, without imposing symmetry. In the general stochastic block model $ ext{SBM}(n,p,Q)$, $n$ vertices are split into $k$ communities of relative size $\{p_i\}_{i \in [k]}$, and vertices in community $i$ and $j$ connect independently with probability $\{Q_{i,j}\}_{i,j \in [k]}$. This paper investigates the partial and exact recovery of communities in the general SBM (in the constant and logarithmic degree regimes), and uses the generality of the results to tackle overlapping communities. The contributions of the paper are: (i) an explicit characterization of the recovery threshold in the general SBM in terms of a new divergence function $D_+$, which generalizes the Hellinger and Chernoff divergences, and which provides an operational meaning to a divergence function analog to the KL-divergence in the channel coding theorem, (ii) the development of an algorithm that recovers the communities all the way down to the optimal threshold and runs in quasi-linear time, showing that exact recovery has no information-theoretic to computational gap for multiple communities, in contrast to the conjectures made for detection with more than 4 communities; note that the algorithm is optimal both in terms of achieving the threshold and in having quasi-linear complexity, (iii) the development of an efficient algorithm that detects communities in the constant degree regime with an explicit accuracy bound that can be made arbitrarily close to 1 when a prescribed signal-to-noise ratio (defined in term of the spectrum of $\diag(p)Q$) tends to infinity.

研究动机与目标

• 刻画具有任意社区大小和连接概率的一般随机块模型（SBM）中部分恢复与精确恢复的根本极限。
• 解决关于多社区 SBM 中精确恢复是否存在计算-信息论差距的开放问题，特别是当社区数量超过两个时。
• 开发高效的算法，实现信息论阈值下的恢复，即使在常数度数情形下亦可实现。
• 通过利用所提出散度和恢复条件的通用性，将框架扩展至重叠社区。
• 为 $ D_+ $ 提供一种操作性解释，使其类似于信道编码中的 KL 散度，明确信号-噪声比阈值。

提出的方法

• 引入一种新的散度函数 $ D_+ $，定义为对所有 $ t \in [0,1] $ 的上确界，表达式为 $ \sum_{\ell} \left[ t(QP)_{\ell,i} + (1-t)(QP)_{\ell,j} - (QP)_{\ell,i}^t (QP)_{\ell,j}^{1-t} \right] $，该函数推广了 Hellinger 和 Chernoff 散度。
• 设计一种球体比较算法用于部分恢复，利用局部邻域结构和度数分布对顶点进行高精度分类。
• 提出一种度数轮廓算法用于精确恢复，通过比较不同社区中顶点的度数轮廓，并利用集中不等式确保高概率下结果正确。
• 应用鲁棒的集中不等式（引理 13）以处理图之间的依赖关系，确保误差率渐近趋于零。
• 通过分析 $ \operatorname{diag}(p)Q $ 的谱性质，定义一个信噪比（SNR），用于控制常数度数情形下算法的性能。
• 采用一种随机采样技术，选取大小为 $ n / \log^3 n $ 的顶点集合 $ S $，构造不可区分的顶点轮廓，从而证明当 $ D_+( (PQ)_i, (PQ)_j ) < 1 $ 时，恢复不可能。

实验结果

研究问题

• RQ1 在具有任意社区大小和连接概率的一般 SBM 中，精确社区恢复的根本阈值是什么？
• RQ2 在多社区 SBM 中，是否存在精确恢复的计算-信息论差距，特别是当社区数量超过四个时？
• RQ3 能否设计一种高效算法，在一般 SBM 中实现信息论阈值下的精确恢复？
• RQ4 新提出的散度 $ D_+ $ 与 KL、Hellinger 和 Chernoff 等经典散度有何关系？其在社区检测中的操作意义是什么？
• RQ5 能否通过泛化恢复条件和算法，将该框架扩展至重叠社区？

主要发现

• 本文证明，在一般 SBM 中，当且仅当对所有 $ i \neq j $ 有 $ D_+( (PQ)_i, (PQ)_j ) > 1 $ 时，精确恢复是可能的，且该阈值是严格且信息论上紧致的。
• 所提出的度数轮廓算法以准线性时间 $ O(n \log n) $ 实现精确恢复，达到信息论阈值，证明在多社区情况下不存在计算差距。
• 在常数度数情形下，该算法的误差率为 $ O\left( \frac{1}{n} \ln n^{-1/4} \right) $，当 $ n \to \infty $ 时趋于零，且当通过 $ \operatorname{diag}(p)Q $ 的谱定义的 SNR 趋向无穷大时，可使准确率任意接近 1。
• 反向结果表明，若存在任意一对 $ i \neq j $ 满足 $ D_+( (PQ)_i, (PQ)_j ) < 1 $，则没有任何算法能以高概率正确分类所有顶点，因为社区 $ i $ 和 $ j $ 中存在不可区分的顶点轮廓。
• $ D_+ $ 散度提供了类似于信道编码中 KL 散度的操作意义，量化了 SBM 中社区轮廓的可区分性。
• 通过将重叠社区视为 SBM 的一种推广，该框架成功扩展至重叠社区，恢复阈值通过相同的基于 $ D_+ $ 的准则推导得出。