[论文解读] Probabilistic community detection with unknown number of communities

Junxian Geng, Anirban Bhattacharya+1 more|arXiv (Cornell University)|Feb 25, 2016

Complex Network Analysis Techniques参考文献 54被引用 5

一句话总结

该论文提出了一种一致的贝叶斯非参数框架，用于在不依赖于预先估计社区数量的情况下，同时估计网络中的社区数量和社区结构。该方法采用有限混合模型（MFM）先验，避免了中国餐馆过程（CRP）的缺陷。所提方法采用高效的马尔可夫链蒙特卡洛（MCMC）算法，规避了可逆跳跃MCMC，实现了非渐近贝叶斯风险界，并在合成网络和真实网络上优于现有方法。

ABSTRACT

A fundamental problem in network analysis is clustering the nodes into groups which share a similar connectivity pattern. Existing algorithms for community detection assume the knowledge of the number of clusters or estimate it a priori using various selection criteria and subsequently estimate the community structure. Ignoring the uncertainty in the first stage may lead to erroneous clustering, particularly when the community structure is vague. We instead propose a coherent probabilistic framework for simultaneous estimation of the number of communities and the community structure, adapting recently developed Bayesian nonparametric techniques to network models. An efficient Markov chain Monte Carlo (MCMC) algorithm is proposed which obviates the need to perform reversible jump MCMC on the number of clusters. The methodology is shown to outperform recently developed community detection algorithms in a variety of synthetic data examples and in benchmark real-datasets. Using an appropriate metric on the space of all configurations, we develop non-asymptotic Bayes risk bounds even when the number of clusters is unknown. Enroute, we develop concentration properties of non-linear functions of Bernoulli random variables, which may be of independent interest.

研究动机与目标

• 解决在社区数量未知时的社区检测挑战，避免两阶段方法中忽略聚类数量估计不确定性的缺陷。
• 构建一个完全贝叶斯框架，联合估计社区数量和社区成员身份，实现一致的不确定性量化。
• 通过设计一种避免复杂变维移动的高效MCMC算法，克服可逆跳跃MCMC在变维参数空间中的计算局限性。
• 即使在社区数量未知的情况下，也建立非渐近贝叶斯风险界，为估计精度提供理论保证。
• 通过推导伯努利随机变量非线性函数的集中性质，为该方法提供理论支持，相关结果对网络模型分析具有重要意义。

提出的方法

• 在社区分配上采用有限混合模型（MFM）先验，以实现社区数量的自动学习，避免中国餐馆过程（CRP）存在的不一致性问题。
• 在随机块模型（SBM）框架下，对社区成员身份使用共轭的狄利克雷-多项式先验，对边概率使用贝塔先验。
• 设计一种高效的MCMC算法，无需可逆跳跃移动即可更新社区成员身份和社区数量，提升了可扩展性和混合效率。
• 利用条件独立结构和数据增广技术，简化后验计算，避免高维变维提议。
• 通过网络配置空间上的度量，推导出非渐近贝叶斯风险界，证明在社区数量未知时的理论一致性。
• 建立伯努利变量非线性函数的集中不等式，为模型行为的理论分析提供支持。

实验结果

研究问题

• RQ1 能否在不预先估计社区数量的情况下，通过贝叶斯非参数模型同时估计网络中的社区数量和社区结构？
• RQ2 当社区数量未知时，如何设计一种高效的MCMC算法，以避免可逆跳跃MCMC带来的计算负担？
• RQ3 在社区数量未知的情况下，特别是有限样本设置下，能为社区检测提供哪些理论保证？
• RQ4 所提出的基于MFM的先验是否能避免中国餐馆过程在估计真实社区数量时的不一致性问题？
• RQ5 在网络模型中，伯努利变量非线性函数的集中性质是什么？它们如何支持该方法的理论分析？

主要发现

• 所提MCMC算法通过一种新颖的数据增广策略，将社区数量进行边际化处理，成功避免了可逆跳跃MCMC，提升了混合效率和可扩展性。
• 在合适的网络配置空间度量下，该方法实现了非渐近贝叶斯风险界，其阶为 $ O(k/m) $，其中 $ k $ 为社区数量，$ m $ 为节点数。
• 实验结果表明，该方法在合成网络上的表现优于现有算法，尤其在社区结构模糊或重叠的场景中表现更优。
• 理论分析证实，MFM先验能实现对社区数量的一致估计，而中国餐馆过程在一般设置下已知存在不一致性。
• 本文推导出的伯努利变量非线性函数的集中性质，被证明在分析网络模型后验集中时具有实用性。
• 当 $ 1-R \to 0 $ 时，后验似然比的先验比下界为 $ Cm^2/k $ 或 $ Cm^2\beta_n $，具体取决于收敛速率，支持了该方法在不同信号强度下的鲁棒性。