[论文解读] Regular Decomposition: an information and graph theoretic approach to stochastic block models

Hannu Reittu, Fülöp Bazsó+1 more|arXiv (Cornell University)|Apr 24, 2017

Complex Network Analysis Techniques参考文献 28被引用 9

一句话总结

本文提出正则分解（RD），一种基于信息论与图论的方法，用于在大规模密集图中通过随机块模型（SBMs）检测块结构。通过结合Szemerédi正则性引理与最小描述长度（MDL）原则，RD通过最小化编码长度来识别最优块数，该编码长度在真实块数处达到平台期——从而在大规模网络中实现一致且实用的社区检测。

ABSTRACT

A method for compression of large graphs and non-negative matrices to a block structure is proposed. Szemerédi's regularity lemma is used as heuristic motivation of the significance of stochastic block models. Another ingredient of the method is Rissanen's minimum description length principle (MDL). We propose practical algorithms and provide theoretical results on the accuracy of the method.

研究动机与目标

• 开发一种严格、一致的方法，用于检测由随机块模型（SBMs）生成的大规模密集图中的块结构。
• 通过用基于SBM的概率模型替代确定性的正则性，将Szemerédi正则性引理与实际网络分析相连接。
• 将最小描述长度（MDL）原则应用于图压缩与块结构检测，确保模型选择的一致性。
• 提供一种实用算法，通过观察编码长度的平台期来识别正确的块数。

提出的方法

• 以Szemerédi正则性引理作为理论基础，证明大规模图中块结构的相关性。
• 应用最小描述长度（MDL）原则，通过最小化图的总编码长度来选择最优块结构。
• 采用两段式MDL编码：一段用于块结构，一段用于块内边的概率。
• 利用Chernoff不等式与Kullback-Leibler散度分析边密度偏差的概率，确保以高概率满足ε-正则性。
• 推导渐近模型复杂度，并表明编码长度在达到真实块数前持续减少，之后趋于平台期。
• 通过Poissonian构造将方法扩展至矩阵，提升其在图之外的应用范围。

实验结果

研究问题

• RQ1 随着图规模增大，MDL原则能否一致地检测出随机块模型中的真实块数？
• RQ2 由SBM生成的图的编码长度是否随块数增加而单调减少，并在真实块数处达到平台期？
• RQ3 Szemerédi正则性引理与MDL的结合如何实现大规模密集图中一致且实用的块检测？
• RQ4 编码长度相对于真实块结构的渐近行为如何？其可否作为模型选择的标准？
• RQ5 仿真结果表明，该方法在有限且现实的图规模下有效性如何？

主要发现

• 随着块数增加，图的编码长度单调减少，直至达到真实块数后趋于平台期，此后几乎不再减少。
• 对于任意ε > 0，当图规模n满足n >> ε⁻⁴时，划分以高概率成为ε-正则。
• 编码长度在真实块数处达到平台期，使得可通过检测编码长度的拐点来实用地识别正确的块结构。
• 仿真结果证实，即使在中等规模图中，编码长度平台期依然可观测，验证了该方法的实用性。
• 该方法具有一致性：当n → ∞时，基于MDL的块检测以高概率正确识别真实块数。
• Poissonian块模型变体保留了关键理论性质，KL散度与熵函数已适配至Poisson分布，以实现矩阵压缩。