[论文解读] Completely random measures for modelling block-structured networks

Tue Herlau, Mikkel N. Schmidt+1 more|arXiv (Cornell University)|Jul 10, 2015

Complex Network Analysis Techniques参考文献 25被引用 6

一句话总结

本文提出了一种基于完全随机测度（CRMs）的新型分块结构网络模型，采用Kallenberg的交换性概念，在保持分块结构推断能力的同时，实现了幂律度分布。该模型将CRMs与各分块特有的强度测度相结合，实现了高效的采样与似然计算，在真实网络的链接预测和社区检测任务中优于现有模型。

ABSTRACT

Many statistical methods for network data parameterize the edge-probability by attributing latent traits to the vertices such as block structure and assume exchangeability in the sense of the Aldous-Hoover representation theorem. Empirical studies of networks indicate that many real-world networks have a power-law distribution of the vertices which in turn implies the number of edges scale slower than quadratically in the number of vertices. These assumptions are fundamentally irreconcilable as the Aldous-Hoover theorem implies quadratic scaling of the number of edges. Recently Caron and Fox (2014) proposed the use of a different notion of exchangeability due to Kallenberg (2009) and obtained a network model which admits power-law behaviour while retaining desirable statistical properties, however this model does not capture latent vertex traits such as block-structure. In this work we re-introduce the use of block-structure for network models obeying Kallenberg's notion of exchangeability and thereby obtain a model which admits the inference of block-structure and edge inhomogeneity. We derive a simple expression for the likelihood and an efficient sampling method. The obtained model is not significantly more difficult to implement than existing approaches to block-modelling and performs well on real network datasets.

研究动机与目标

• 为调和分块结构网络建模与幂律度分布之间的矛盾，后者在传统Aldous-Hoover交换性框架下不相容。
• 将Caron和Fox（2014）的CRM基础网络模型扩展，以引入潜在分块结构与边的异质性。
• 为新模型开发可计算的似然函数及高效的MCMC采样方法。
• 在真实网络上，与现有模型相比，验证该模型在链接预测和社区检测任务中的性能提升。

提出的方法

• 通过完全随机测度（CRMs）利用Kallenberg的交换性概念建模边概率，避免了传统Aldous-Hoover交换性带来的二次方边数增长。
• 为每个分块分配独立的CRM，其强度测度为 $ \sum_{i\geq 1} w_{\ell i} \delta_{\theta_{\ell i}} $，其中 $ w_{\ell i} $ 控制社会性，$ \theta_{\ell i} $ 控制分块特异性交互。
• 将边概率建模为 $ \xi_{\ell m} = \eta_{\ell m} \cdot \mathbb{E}[\text{来自分块 } \ell \text{ 和 } m \text{ 的棍棒交集}] $，其中 $ \eta_{\ell m} \geq 0 $ 调节交互强度。
• 通过利用网络签名的组合结构，并借助多项式系数校正排列不变性，推导出闭式似然表达式。
• 采用Gibbs采样器，通过共轭先验和条件后验分布，高效更新分块分配、CRM权重和交互参数。
• 使用Zolotarev的积分表示法，数值近似总质量 $ T = \sum_i w_i $ 的分布，验证模型的边际行为。

实验结果

研究问题

• RQ1 基于Kallenberg交换性概念的网络模型能否同时捕捉分块结构与幂律度分布？
• RQ2 如何在不破坏CRM框架不变性特性的前提下，将分块结构整合进CRM基础网络模型？
• RQ3 此类模型的似然形式为何？是否可高效计算？
• RQ4 与DCSBM和pIRM等现有模型相比，所提模型在链接预测与社区检测中的性能如何？

主要发现

• 所提出的基于CRM的随机块模型成功同时捕捉了分块结构与幂律度分布，解决了传统交换性模型中的根本性不相容问题。
• 该模型实现了闭式似然表达式，通过涉及多项式系数的组合校正因子，有效处理了排列不变性。
• 在11个真实网络（如NIPS、Caltech、酵母网络）上的实证验证表明，该模型在链接预测准确率和社区检测方面优于DCSBM与pIRM。
• 从模拟网络中估计的总质量 $ T $ 的密度与Zolotarev积分表示推导出的理论密度高度吻合，证实了模型的有效性。
• 即使在稀疏网络中，该模型仍表现良好，并在多种网络类型（包括社交网络、合作者网络与脑网络）中保持鲁棒性。
• 实现复杂度与标准分块模型相当，使该方法在实际应用中具备可行性与可及性。