[论文解读] Contextual Stochastic Block Models

Yash Deshpande, Andrea Montanari+2 more|arXiv (Cornell University)|Jul 23, 2018

Complex Network Analysis Techniques被引用 30

一句话总结

本文提出一种上下文随机块模型，能够联合从稀疏网络和高维节点协变量中推断潜在社区结构，通过严格的高斯比较不等式证明了信息论上紧致的检测阈值，并通过基于信念传播的算法验证了该阈值，该算法达到了猜想的极限。

ABSTRACT

We provide the first information theoretic tight analysis for inference of latent community structure given a sparse graph along with high dimensional node covariates, correlated with the same latent communities. Our work bridges recent theoretical breakthroughs in the detection of latent community structure without nodes covariates and a large body of empirical work using diverse heuristics for combining node covariates with graphs for inference. The tightness of our analysis implies in particular, the information theoretical necessity of combining the different sources of information. Our analysis holds for networks of large degrees as well as for a Gaussian version of the model.

研究动机与目标

• 填补在社区检测中结合图结构与高维协变量的理论理解方面的空白。
• 在同时拥有图数据与协变量数据的前提下，提供信息论上紧致的社区检测分析。
• 确立结合互补信息源以实现最优推断的必要性。
• 通过基于信念传播的算法和数值实验验证理论阈值。
• 将结果扩展至模型的高斯极限，通过新颖的高斯比较不等式实现严格分析。

提出的方法

• 提出一种统计模型，其中在给定潜在社区标签的条件下，图边和协变量条件独立。
• 使用具有类内与类间连接率参数的随机块模型对边概率进行建模。
• 将协变量建模为潜在社区标签与独立同分布高斯向量的噪声线性组合。
• 利用统计物理的启发式方法预测社区恢复的尖锐检测阈值。
• 在高斯极限下，通过新颖的高斯比较不等式严格证明该阈值。
• 基于信念传播开发一种近似消息传递算法，采用线性化更新以实现可扩展性与收敛性。

实验结果

研究问题

• RQ1 当同时拥有图结构与高维协变量时，检测潜在社区的信息论极限是什么？
• RQ2 图数据与协变量数据的结合如何提升检测性能，使其优于单独使用任一数据源？
• RQ3 统计物理预测的理论阈值是否能在高斯极限模型中得到严格验证？
• RQ4 基于信念传播的算法在实际中是否能达到信息论阈值？
• RQ5 在大度数极限下，结果如何随网络规模与协变量维度变化？

主要发现

• 本文在联合图-协变量模型中建立了社区检测的尖锐信息论阈值，证明其为必要且充分条件。
• 在模型的高斯极限下，作者通过新颖的高斯比较不等式严格验证了阈值预测。
• 基于信念传播的算法在实验中实现了猜想的信息论阈值，证明了其实际可行性。
• 理论结果表明，有限度数模型在图密度增加时收敛于高斯极限的预测结果。
• 分析确认，结合图与协变量数据在信息论上是实现最优检测的必要条件。
• 线性化近似消息传递算法提供了一种可扩展且精确的推断方法，其更新规则基于消息传递启发式与线性近似。