[论文解读] Community Detection and Stochastic Block Models

Emmanuel Abbé|arXiv (Cornell University)|Mar 29, 2017

Complex Network Analysis Techniques被引用 6

一句话总结

本专著对随机块模型（SBMs）中的社区检测问题提供了全面的理论分析，确立了精确恢复、部分恢复和弱恢复的信息-计算理论极限与计算极限。它推导了切尔诺夫-赫林尼尔与凯斯滕-斯蒂格姆阈值处的相变，并识别出信息-计算间隙，采用谱方法、信念传播和半定规划等先进技术实现这些极限。

ABSTRACT

The stochastic block model (SBM) is a random graph model with different group of vertices connecting differently. It is widely employed as a canonical model to study clustering and community detection, and provides a fertile ground to study the information-theoretic and computational tradeoffs that arise in combinatorial statistics and more generally data science. This monograph surveys the recent developments that establish the fundamental limits for community detection in the SBM, both with respect to information-theoretic and computational tradeoffs, and for various recovery requirements such as exact, partial and weak recovery. The main results discussed are the phase transitions for exact recovery at the Chernoff-Hellinger threshold, the phase transition for weak recovery at the Kesten-Stigum threshold, the optimal SNR-mutual information tradeoff for partial recovery, and the gap between information-theoretic and computational thresholds. The monograph gives a principled derivation of the main algorithms developed in the quest of achieving the limits, in particular two-round algorithms via graph-splitting, semi-definite programming, (linearized) belief propagation, classical/nonbacktracking spectral methods and graph powering. Extensions to other block models, such as geometric block models, and a few open problems are also discussed.

研究动机与目标

• 确立随机块模型（SBMs）中社区检测的基本信息-理论极限与计算极限。
• 刻画在切尔诺夫-赫林尼尔阈值处的精确恢复相变，以及在凯斯滕-斯蒂格姆阈值处的弱恢复相变。
• 研究稀疏SBMs中信息-理论阈值与计算阈值之间的差距。
• 开发并分析能够实现这些理论极限的算法，如谱方法、SDP、信念传播和图增强方法。
• 将结果推广至一般SBMs、几何块模型，以及学习、鲁棒性与半监督设置中的开放问题。

提出的方法

• 使用块MAP估计器及其通过谱方法和半定规划（SDP）的松弛形式，以逼近精确恢复。
• 应用线性化信念传播和非回溯矩阵，分析弱恢复并推导凯斯滕-斯蒂格姆阈值。
• 采用图分裂与图增强技术，提升算法鲁棒性，并实现超越凯斯滕-斯蒂格姆阈值的恢复。
• 通过与突显Wigner模型的关联及大偏差技术，推导部分恢复的互信息-信噪比权衡。
• 在常数度与发散度度量下分析对称与一般SBM，以统一恢复范式。
• 使用典型性论证与球体比较方法，证明稀疏SBMs中信息-计算间隙的存在。

实验结果

研究问题

• RQ1 在两社区SBM中，精确恢复的信息-理论阈值是什么？是否可通过谱方法或SDP方法实现？
• RQ2 在稀疏SBM中，弱恢复在何种信噪比（SNR）下在信息-理论上成为可能？该阈值对多项式时间算法是否紧致？
• RQ3 在常数度量下，部分恢复中信号-噪声比（SNR）与互信息的最优权衡是什么？
• RQ4 在一般SBM中，为何存在信息-理论阈值与计算阈值之间的差距？该差距能否通过高效算法弥合？
• RQ5 基本极限与阈值如何推广至几何块模型、重叠社区或半监督设置等扩展情形？

主要发现

• 在两社区SBM中，当信噪比超过切尔诺夫-赫林尼尔阈值时，精确恢复才可能实现，该阈值通过“向导辅助”假设检验与信息-理论反证法推导得出。
• 在两社区SBM中，弱恢复在凯斯滕-斯蒂格姆阈值处信息-理论上可达，且在假设该阈值以下不存在高效算法的前提下，该阈值对多项式时间算法是紧致的。
• 对于部分恢复，SNR与互信息的最优权衡已被刻画，且在常数度量下，每顶点的互信息收敛至一个极限值。
• 在具有 $k \neq 2$ 个社区的一般SBM中，信息-理论阈值与计算阈值之间存在差距，表明某些问题在统计上可解但计算上困难。
• 图增强与鲁棒算法可将弱恢复的适用范围扩展至凯斯滕-斯蒂格姆阈值以上，表明该阈值并非算法性能的绝对极限。
• 关于不存在多项式时间算法可在凯斯滕-斯蒂格姆阈值以下解决弱恢复的猜想，对于 $k \to \text{一般 } k \neq 2$ 仍为开放问题，尽管在有限SNR与发散度量情形下已有近期进展。