[论文解读] Wmixnet: Software for Clustering the Nodes of Binary and Valued Graphs using the Stochastic Block Model

Jean-Benoist Léger|arXiv (Cornell University)|Feb 14, 2014

Complex Network Analysis Techniques参考文献 4被引用 8

一句话总结

本论文提出 wmixnet，一种基于 C++ 的并行化软件，实现了用于聚类二值网络和数值网络的变分期望-最大化（EM）算法，支持伯努利、泊松和高斯边分布，且可包含协变量。该软件能够高效聚类大规模网络（最多 10,000 个节点），并通过 ICL 准则自动选择最优分组数，显著提升了现有方法在模型可解释性和可扩展性方面的表现。

ABSTRACT

Clustering the nodes of a graph allows the analysis of the topology of a network. The stochastic block model is a clustering method based on a probabilistic model. Initially developed for binary networks it has recently been extended to valued networks possibly with covariates on the edges. We present an implementation of a variational EM algorithm. It is written using C++, parallelized, available under a GNU General Public License (version 3), and can select the optimal number of clusters using the ICL criteria. It allows us to analyze networks with ten thousand nodes in a reasonable amount of time.

研究动机与目标

• 开发一种可扩展、高效且可扩展的软件工具，用于基于模型的聚类方法对复杂网络中的节点进行聚类。
• 通过概率分布（伯努利、泊松、高斯）将随机块模型扩展至带有协变量的数值网络。
• 实现一种支持并行计算和基于 ICL 准则自动选择最优聚类数的变分 EM 算法。
• 实现在合理时间范围内对大规模网络（最多 10,000 个节点）的分析。

提出的方法

• 使用变分期望-最大化（EM）算法估计参数并预测随机块模型中节点的组归属。
• 支持三种边分布族：伯努利分布（二值网络）、泊松分布（非负整数权重）和高斯分布（实数值权重）。
• 在组对之间对边上的协变量采用同质和异质效应。
• 通过整合分类似然（ICL）准则实现模型选择，以确定最优聚类数。
• 在 C++ 中实现计算并行化，以高效处理大规模网络，并提供可配置的重新初始化模式以增强鲁棒性。
• 支持灵活的输入/输出格式，包括文本、R、MATLAB 和 GNU Octave，以提升通用性。

实验结果

研究问题

• RQ1 如何有效将随机块模型扩展至带有边协变量的数值网络？
• RQ2 在这些扩展模型中，参数估计的计算复杂度是多少，如何在大规模网络中降低其复杂度？
• RQ3 ICL 准则能否在混合类型和数值网络中可靠地选择最优聚类数？
• RQ4 协变量在生态学和社会网络应用中的聚类性能和模型拟合中起到何种影响？
• RQ5 与不包含协变量的模型相比，引入协变量在多大程度上改善了模型拟合？

主要发现

• wmixnet 软件能够在合理时间内对最多 10,000 个节点的网络完成聚类，表现出极高的可扩展性。
• 在树种网络中，ICL 准则指示出 4 个组，且在引入分类学协变量时的改进程度大于仅使用地理协变量时。
• 在真菌物种网络中，无论是否包含分类学协变量，ICL 准则始终稳定在 15 个组，表明模型未获得显著改进。
• 计算复杂度近似符合 t ∝ n^2.46 * g^2.1 * 1.03^p，其中包含模型特定常数，表明高斯模型的计算成本显著高于伯努利模型。
• 该软件的模块化设计允许仅通过实现特定模型函数，轻松扩展至新的概率模型。
• 全面平滑模式显著提高了收敛的可靠性，尤其是在小规模或复杂网络中，尽管会增加计算时间。