[论文解读] Information-theoretic thresholds for community detection in sparse networks

Jess Banks, Cristopher Moore+2 more|arXiv (Cornell University)|Jul 6, 2016

Complex Network Analysis Techniques参考文献 26被引用 42

一句话总结

本文建立了稀疏随机块模型中社区检测的信息论阈值，表明当平均度超过一个临界值时，社区检测成为可能，该临界值按 $ d_c = \Theta\left(\frac{\log q}{q\lambda^2}\right) $ 缩放，其中 $ \lambda $ 衡量社区强度。证明了在此阈值之上，任何与植入社区结构相关的划分均可被找到；而在此阈值之下，任何算法都无法以高概率将社区结构与随机图区分开。

ABSTRACT

We give upper and lower bounds on the information-theoretic threshold for community detection in the stochastic block model. Specifically, consider the symmetric stochastic block model with $q$ groups, average degree $d$, and connection probabilities $c_ ext{in}/n$ and $c_ ext{out}/n$ for within-group and between-group edges respectively; let $λ= (c_ ext{in}-c_ ext{out})/(qd)$. We show that, when $q$ is large, and $λ= O(1/q)$, the critical value of $d$ at which community detection becomes possible---in physical terms, the condensation threshold---is \[ d_ ext{c} = Θ\!\left( \frac{\log q}{q λ^2} ight) \, , \] with tighter results in certain regimes. Above this threshold, we show that any partition of the nodes into $q$ groups which is as `good' as the planted one, in terms of the number of within- and between-group edges, is correlated with it. This gives an exponential-time algorithm that performs better than chance; specifically, community detection becomes possible below the Kesten-Stigum bound for $q \ge 5$ in the disassortative case $λ< 0$, and for $q \ge 11$ in the assortative case $λ>0$ (similar upper bounds were obtained independently by Abbe and Sandon). Conversely, below this threshold, we show that no algorithm can label the vertices better than chance, or even distinguish the block model from an \ER\ random graph with high probability. Our lower bound on $d_ ext{c}$ uses Robinson and Wormald's small subgraph conditioning method, and we also give (less explicit) results for non-symmetric stochastic block models. In the symmetric case, we obtain explicit results by using bounds on certain functions of doubly stochastic matrices due to Achlioptas and Naor; indeed, our lower bound on $d_ ext{c}$ is their second moment lower bound on the $q$-colorability threshold for random graphs with a certain effective degree.

研究动机与目标

• 确定具有 $ q $ 个社区的稀疏随机块模型中社区检测的信息论阈值。
• 建立社区检测成为可能的临界平均度 $ d_c $，并将其与随机图模型区分开来。
• 证明在 $ d_c $ 之上，任何与植入社区结构相关联的划分均可被恢复；在 $ d_c $ 之下，任何算法的表现均无法优于随机猜测。
• 分析聚类型（$ \lambda > 0 $）与非聚类型（$ \lambda < 0 $）情形，特别是针对较大的 $ q $。
• 使用小子图条件法和双随机矩阵函数的界，推导出 $ d_c $ 的紧下界。

提出的方法

• 使用具有 $ q $ 个群组的对称随机块模型，边概率为 $ c_{\text{in}}/n $ 和 $ c_{\text{out}}/n $，并定义 $ \lambda = (c_{\text{in}} - c_{\text{out}})/(q d) $ 为社区强度参数。
• 应用 Robinson 和 Wormald 的小子图条件法，推导出凝聚阈值 $ d_c $ 的下界，表明在此点之下无法检测。
• 采用二阶矩方法，并利用 Achlioptas 和 Naor 关于双随机矩阵函数的界，获得 $ d_c $ 的显式下界，将其与随机图的 $ q $-可着色阈值联系起来。
• 分析条件标签分布与均匀先验之间的总变差距离，表明在 $ d_c $ 之下，信念传播无法与真实标签相关联。
• 使用 Jensen 不等式和条件期望技术，对推断标签与真实社区标签之间的重叠进行上界估计。
• 证明当 $ d \ll d_c $ 时，任何算法输出与真实社区结构之间的期望重叠趋于零，从而证明不可检测性。

实验结果

研究问题

• RQ1 在具有 $ q $ 个群组的稀疏随机块模型中，社区检测的信息论阈值 $ d_c $ 是什么？
• RQ2 临界阈值 $ d_c $ 如何随 $ q $ 和 $ \lambda $ 变化，特别是在 $ \lambda = O(1/q) $ 时？
• RQ3 在哪些 $ q $ 和 $ \lambda $ 值下，社区检测可在 Kesten-Stigum 阈值之下实现？
• RQ4 在 $ d_c $ 之下，能否以高概率将植入的社区结构与 Erdős-Rényi 随机图区分开？
• RQ5 随机块模型中的凝聚阈值与有效度数下随机图的 $ q $-可着色阈值之间有何关系？

主要发现

• 社区检测的临界平均度为 $ d_c = \Theta\left(\frac{\log q}{q\lambda^2}\right) $，在某些参数范围内可获得更紧的界。
• 在 $ d_c $ 之上，任何在组内与组间边数方面与植入结构匹配的划分，均与真实标记相关联，从而实现指数时间检测。
• 在非聚类情形（$ \lambda < 0 $）下，当 $ q \geq 5 $；在聚类情形（$ \lambda > 0 $）下，当 $ q \geq 11 $ 时，检测可在 Kesten-Stigum 阈值之下实现。
• 在 $ d_c $ 之下，任何算法都无法将顶点标记得优于随机猜测，且图无法以高概率与 Erdős-Rényi 随机图区分开。
• 通过小子图条件法推导出 $ d_c $ 的下界，其与有效度数下随机图 $ q $-可着色的二阶矩下界一致。
• 结果已扩展至非对称随机块模型，尽管此时界的表达形式不够明确。