[论文解读] Consistency of adjacency spectral embedding for the mixed membership stochastic blockmodel

Patrick Rubin‐Delanchy, Carey E. Priebe+1 more|arXiv (Cornell University)|May 12, 2017

Complex Network Analysis Techniques参考文献 22被引用 12

一句话总结

本文建立了对无向混合成员随机块模型（MMSBM）进行邻接谱嵌入（ASE）后接最小体积包围凸多面体（MVECP）拟合的一致性。通过将MMSBM与随机点积图（RDPG）关联，作者利用$2\to\infty$范数结果证明了一致性，并通过中心极限定理校正有限样本偏差，实现了简单且可扩展的渐近一致估计。

ABSTRACT

The mixed membership stochastic blockmodel is a statistical model for a graph, which extends the stochastic blockmodel by allowing every node to randomly choose a different community each time a decision of whether to form an edge is made. Whereas spectral analysis for the stochastic blockmodel is increasingly well established, theory for the mixed membership case is considerably less developed. Here we show that adjacency spectral embedding into $\mathbb{R}^k$, followed by fitting the minimum volume enclosing convex $k$-polytope to the $k-1$ principal components, leads to a consistent estimate of a $k$-community mixed membership stochastic blockmodel. The key is to identify a direct correspondence between the mixed membership stochastic blockmodel and the random dot product graph, which greatly facilitates theoretical analysis. Specifically, a $2 ightarrow \infty$ norm and central limit theorem for the random dot product graph are exploited to respectively show consistency and partially correct the bias of the procedure.

研究动机与目标

• 建立谱嵌入在混合成员随机块模型（MMSBM）中的理论一致性，该模型被广泛使用但理论研究较少。
• 通过证明其与随机点积图（RDPG）的等价性，弥合谱方法与MMSBM之间的差距，从而可利用现有的RDPG理论。
• 提出一种基于邻接谱嵌入与MVECP拟合的简单、可扩展的估计程序，实现一致的社区检测。
• 利用谱嵌入理论中的渐近正态性，量化并校正MMSBM估计中的有限样本偏差。
• 为MMSBM提供一种理论基础坚实、计算高效的替代方法，以替代MCMC或变分推断等复杂推理方法。

提出的方法

• 通过将节点成员向量映射到$\mathbb{R}^k$中的潜在位置，将MMSBM重新表述为随机点积图（RDPG）。
• 对观测到的邻接矩阵$A$应用邻接谱嵌入（ASE），得到估计的潜在位置$\hat{X}_i \in \mathbb{R}^k$。
• 对嵌入点的前$k-1$个主成分拟合最小体积包围凸$k$-多面体（MVECP），以估计社区结构。
• 利用RDPG谱嵌入的$2\to\infty$范数结果建立一致性，确保估计的潜在位置收敛于真实值。
• 利用Athreya等人（2016）提出的ASE中心极限定理，量化并校正有限样本偏差，采用与$n^{-1/2}\log^{1/2}(n)$成比例的收缩程序。
• 将该收缩率应用于MVECP顶点以减少偏差，最优收缩率由嵌入误差的渐近正态性推导得出。

实验结果

研究问题

• RQ1 邻接谱嵌入后接MVECP拟合是否为无向混合成员随机块模型的一致估计量？
• RQ2 MMSBM能否正式与随机点积图（RDPG）关联，以利用现有的谱理论？
• RQ3 在此谱方法下，估计的社区结构的收敛速率是多少？
• RQ4 如何量化并校正MVECP估计量中的有限样本偏差？
• RQ5 基于渐近正态性的收缩程序是否能提升有限样本中的估计精度？

主要发现

• 在正则性条件下，所提出的谱嵌入与MVECP拟合程序对MMSBM是一致的，估计的潜在位置收敛于真实的社区中心。
• RDPG谱嵌入的$2\to\infty$范数结果确保了估计与真实潜在位置之间最大偏差随$n \to \infty$而消失。
• ASE的中心极限定理表明，嵌入点的估计误差渐近服从均值为零、协方差为$\Psi(x)$的正态分布，从而支持偏差的量化。
• MVECP估计量的有限样本偏差以$n^{-1/2}\log^{1/2}(n)$的速率减小，仿真研究已证实该结果。
• 以推导出的速率$n^{-1/2}\log^{1/2}(n)$将MVECP向其中心收缩，相比固定速率收缩或无收缩，显著提升了估计精度。
• 该方法仅需三行代码（不含特征分解）即可实现，展现出卓越性能，是复杂推理方法的可扩展且实用的替代方案。