[论文解读] Improved Bayesian inference for the Stochastic Block Model with application to large networks

Aaron F. McDaid, Thomas Brendan Murphy+2 more|arXiv (Cornell University)|Mar 14, 2012

Bayesian Methods and Mixture Models被引用 2

一句话总结

该论文提出了一种基于分配采样器的高效MCMC算法，用于在集成块参数后使用随机块模型（SBM）对网络进行贝叶斯块聚类。通过在聚类数量上放置先验分布，该方法实现了无需维度变换的采样，能够准确估计聚类成员关系和聚类数量，并可扩展至包含多达10,000个节点和数千万条边的大规模网络。

ABSTRACT

An efficient MCMC algorithm is presented to cluster the nodes of a network such that nodes with similar role in the network are clustered together. This is known as block-modeling or block-clustering. The model is the stochastic blockmodel (SBM) with block parameters integrated out. The resulting marginal distribution defines a posterior over the number of clusters and cluster memberships. Sampling from this posterior is simpler than from the original SBM as transdimensional MCMC can be avoided. The algorithm is based on the allocation sampler. It requires a prior to be placed on the number of clusters, thereby allowing the number of clusters to be directly estimated by the algorithm, rather than being given as an input parameter. Synthetic and real data are used to test the speed and accuracy of the model and algorithm, including the ability to estimate the number of clusters. The algorithm can scale to networks with up to ten thousand nodes and tens of millions of edges.

研究动机与目标

• 开发一种可扩展且准确的贝叶斯推断方法，用于大规模网络中的块聚类。
• 通过在聚类数量上施加先验分布，直接估计聚类数量，从而消除对预先指定聚类数的需求。
• 通过集成块参数来简化后验抽样，避免使用维度变换的MCMC方法。
• 实现在包含多达10,000个节点和数千万条边的大规模网络上的高效推断。
• 在合成网络和真实网络数据上验证该方法的准确性和速度。

提出的方法

• 使用分配采样器联合推断聚类成员关系和聚类数量，无需进行维度变换的移动。
• 通过集成块参数采用边际似然方法，简化后验计算。
• 直接在聚类数量上分配先验分布，实现在推断过程中自动估计聚类数。
• 对聚类分配和聚类数量的后验分布应用MCMC抽样。
• 利用条件共轭性和高效的提议机制，实现对大规模网络的可扩展性。
• 在MCMC方案中采用节点级更新，以改善混合效果和收敛性。

实验结果

研究问题

• RQ1 所提出的算法是否能够在不预先指定聚类数的情况下，准确估计网络中的聚类数量？
• RQ2 在大规模网络上，该算法在速度和准确性方面与现有SBM推断方法相比表现如何？
• RQ3 集成块参数在多大程度上提升了抽样效率和可扩展性？
• RQ4 该方法在具有复杂社区结构的真实网络上表现如何？
• RQ5 该算法是否能在包含多达10,000个节点和数千万条边的网络上保持准确性和效率？

主要发现

• 该算法通过在聚类数量上施加先验分布，直接估计聚类数量，消除了对手动输入聚类数的需求。
• 通过集成块参数，该方法避免了维度变换的MCMC，显著简化了推断过程。
• 该方法在包含多达10,000个节点和数千万条边的网络上表现出有效的可扩展性，证明了其在大规模数据上的实际适用性。
• 在合成网络和真实网络上的实证结果证实了其在恢复真实社区结构方面的高准确性。
• 基于分配采样器的方法相比标准的维度变换MCMC在SBM中实现了更快的混合速度和更优的收敛性。
• 该模型在不同网络拓扑结构和社区规模分布下均保持了稳健的性能。