[论文解读] Stochastic block model entropy and broadcasting on trees with survey

Emmanuel Abbé, Elisabetta Cornacchia+2 more|arXiv (Cornell University)|Jan 29, 2021

Cellular Automata and Applications参考文献 16被引用 6

一句话总结

本文在经典稀疏、同质的社区发现模型中，对所有信噪比（SNR）的随机块模型（SBM）极限熵进行了刻画，仅在区间 (1, 3.513) 内提供近似值。通过将 SBM 熵与带擦除侧信息（调查）的树形广播模型关联，证明了在 SNR > 3.513 或 SNR < 1 时边界无关性及 BP 固定点唯一性，从而仅留下一个狭窄区域尚未证明。

ABSTRACT

The limit of the entropy in the stochastic block model (SBM) has been characterized in the sparse regime for the special case of disassortative communities [COKPZ17] and for the classical case of assortative communities but in the dense regime [DAM16]. The problem has not been closed in the classical sparse and assortative case. This paper establishes the result in this case for any SNR besides for the interval (1, 3.513). It further gives an approximation to the limit in this window. The result is obtained by expressing the global SBM entropy as an integral of local tree entropies in a broadcasting on tree model with erasure side-information. The main technical advancement then relies on showing the irrelevance of the boundary in such a model, also studied with variants in [KMS16], [MNS16] and [MX15]. In particular, we establish the uniqueness of the BP fixed point in the survey model for any SNR above 3.513 or below 1. This only leaves a narrow region in the plane between SNR and survey strength where the uniqueness of BP conjectured in these papers remains unproved.

研究动机与目标

• 填补对经典稀疏、同质情形下对称随机块模型（SBM）极限熵刻画的空白。
• 拓展现有仅覆盖非同质社区或稠密区域结果的研究。
• 建立 SBM 熵与带侧信息（调查）的树形广播模型之间的联系。
• 证明在 SNR > 3.513 或 SNR < 1 时，调查模型中信念传播（BP）固定点的唯一性。
• 识别出仍为开放问题的区域（SNR ∈ (1, 3.513)），即 BP 固定点唯一性尚未被证明的区域。

提出的方法

• 将全局 SBM 熵表示为带擦除侧信息（调查）的树形广播模型中局部树熵的积分。
• 通过 SBM 与树模型之间的标准耦合，建立两者的关联。
• 采用势函数方法，其中 φ(r) = −exp(−r/2)，分析 BP 消息的收敛性。
• 通过强凸性与矩界，证明边界无关性，即远处边界条件的影响在极限下消失。
• 基于消息差值的衰减，通过压缩映射论证建立 BP 固定点唯一性。
• 利用伊辛模型理论与可约图理论结果，将边界无关性推广至具 BEC 调查的一般可约图。

实验结果

研究问题

• RQ1 在所有信噪比（SNR）下，稀疏同质随机块模型的极限熵是多少？
• RQ2 侧信息（调查）的存在如何影响树形广播模型中社区结构的重构？
• RQ3 在何种条件下，调查模型中信念传播（BP）固定点具有唯一性？
• RQ4 当 SBM 映射为带侧信息的树时，边界无关性是否成立，尤其是在稀疏情形下？
• RQ5 在 (SNR, 调查强度) 平面中，BP 固定点唯一性仍未被证明的精确区域是什么？

主要发现

• 该文对除区间 (1, 3.513) 外的所有 SNR 值，完整刻画了稀疏同质 SBM 的极限熵，该区间内提供近似解。
• 论文证明了在 SNR > 3.513 或 SNR < 1 时，调查模型中信念传播（BP）固定点具有唯一性，从而确立了这些区域中 BP 的收敛性。
• 当 SBM 映射为带擦除侧信息的树时，边界无关性成立，即远处边界条件在极限下不影响根节点的估计。
• 对于规则树，当 dθ² < 1 时，消息差值以速率 C₁ < 1 几何衰减，确保收敛性。
• 该结果可推广至泊松后代的 Galton-Watson 树及具 BEC 调查的可约图，其中通过体积增长与等周性质证明了边界无关性。
• 目前唯一尚未证明的区域是 SNR ∈ (1, 3.513) 的狭窄区间，该区域中唯一性猜想仍未被证实。