[论文解读] Community Detection with Contextual Multilayer Networks

Zongming Ma, Sagnik Nandy|arXiv (Cornell University)|Apr 7, 2021

Random Matrices and Applications参考文献 32被引用 4

一句话总结

本文通过协调近似消息传递（AMP）算法整合多种数据源，提出了一种在具有高维协变量的多层网络中进行社区检测的框架。推导出精确的渐近最小均方误差（MMSE）公式，并确立了弱恢复的尖锐相变阈值，表明在随机猜测之外实现最优性能，必须整合网络与协变量之间的信息。

ABSTRACT

In this paper, we study community detection when we observe $m$ sparse networks and a high dimensional covariate matrix, all encoding the same community structure among $n$ subjects. In the asymptotic regime where the number of features $p$ and the number of subjects $n$ grows proportionally, we derive an exact formula of asymptotic minimum mean square error (MMSE) for estimating the common community structure in the balanced two block case. The formula implies the necessity of integrating information from multiple data sources. Consequently, it induces a sharp threshold of phase transition between the regime where detection (i.e., weak recovery) is possible and the regime where no procedure performs better than a random guess. The asymptotic MMSE depends on the covariate signal-to-noise ratio in a more subtle way than the phase transition threshold does. In the special case of $m=1$, our asymptotic MMSE formula complements the pioneering work of Deshpande et. al. (2018) which found the sharp threshold when $m=1$.

研究动机与目标

• 解决整合多个稀疏网络与高维协变量以检测共同潜在社区结构的挑战。
• 在平衡两区块随机块模型（SBM）中，建立弱恢复的尖锐信息论相变阈值。
• 推导在多个数据源存在下，贝叶斯最优估计器的最小均方误差（MMSE）的精确渐近公式。
• 证明结合多个网络与协变量的信息对于实现超越随机猜测的非平凡检测性能是必要的。

提出的方法

• 构建一个包含 $ m $ 个独立的随机块模型（SBMs）和一个 $ p \times n $ 高斯协变量矩阵的多层网络模型，所有模型共享相同的平衡两区块社区结构。
• 应用协调近似消息传递（AMP）算法来估计社区结构，利用 $ n $ 与 $ p $ 比例增长下的渐近分析。
• 使用高维概率与随机矩阵理论工具，推导出贝叶斯最优估计器的精确渐近MMSE公式。
• 通过测度集中与高斯近似技术，建立AMP迭代的收敛性。
• 在AMP算法的实际变体中采用谱初始化，以提升经验性能。
• 分析每个数据源的信噪比（SNR）贡献，以表征相变阈值。

实验结果

研究问题

• RQ1 在多层设置下，弱恢复的相变阈值如何依赖于多个网络与协变量的信噪比？
• RQ2 在整合多个网络与高维协变量时，贝叶斯最优估计器所实现的精确渐近最小均方误差（MMSE）是多少？
• RQ3 是否存在一个组合多个数据源可实现超越随机猜测的检测性能的区域？这一性能如何依赖于各独立SNR？
• RQ4 在有限样本模拟中，基于AMP的估计器性能与理论MMSE预测相比如何？
• RQ5 当单个数据源较弱时，信息整合在提升检测精度方面起到什么作用？

主要发现

• 本文在多层网络与协变量模型中建立了弱恢复的尖锐相变阈值，仅当所有数据源的信噪比组合达到临界值时，检测才成为可能。
• 推导出贝叶斯最优估计器的精确渐近MMSE公式，量化了在给定模型下社区结构估计的根本极限。
• 渐近MMSE以非平凡、非可加的方式依赖于各数据源的SNR，反映了网络与协变量之间信息的复杂相互作用。
• 采用谱初始化的实际AMP变体在模拟示例中实现了与理论MMSE预测非常接近的经验均方误差（MSE）值。
• 在 $ m=1 $ 的特殊情况下，所推导的MMSE公式补充了[17]的先前工作，并首次在该设置下对信息论极限提供了精确表征。
• 结果表明，整合多个数据源的信息不仅有益，而且是实现非平凡检测性能的必要条件，尤其当单个数据源本身较弱时。