[论文解读] Estimating Mixed Memberships With Sharp Eigenvector Deviations

Xueyu Mao, Purnamrita Sarkar+1 more|arXiv (Cornell University)|Sep 1, 2017

Complex Network Analysis Techniques参考文献 34被引用 16

一句话总结

本文提出了一种新颖的谱算法，用于在混合成员随机块模型（MMSB）下估计网络中的重叠成员关系，利用精确的逐行特征向量偏差界以及基于剪枝的几何角点查找方法。该方法首次建立了在重叠社区检测中针对每个节点的统一收敛速率，即使在平均度数随网络规模以多对数方式增长的情况下依然有效，且在模拟网络和规模达100,000个节点的真实网络中，其准确性和速度均优于现有方法。

ABSTRACT

We consider the problem of estimating community memberships of nodes in a network, where every node is associated with a vector determining its degree of membership in each community. Existing provably consistent algorithms often require strong assumptions about the population, are computationally expensive, and only provide an overall error bound for the whole community membership matrix. This paper provides uniform rates of convergence for the inferred community membership vector of each node in a network generated from the Mixed Membership Stochastic Blockmodel (MMSB); to our knowledge, this is the first work to establish per-node rates for overlapping community detection in networks. We achieve this by establishing sharp row-wise eigenvector deviation bounds for MMSB. Based on the simplex structure inherent in the eigen-decomposition of the population matrix, we build on established corner-finding algorithms from the optimization community to infer the community membership vectors. Our results hold over a broad parameter regime where the average degree only grows poly-logarithmically with the number of nodes. Using experiments with simulated and real datasets, we show that our method achieves better error with lower variability over competing methods, and processes real world networks of up to 100,000 nodes within tens of seconds.

研究动机与目标

• 解决现有在MMSB模型下可证明一致的重叠社区检测算法中缺乏每个节点收敛保证的问题。
• 开发一种计算高效的算法，为每个节点的推断成员关系向量提供统一的误差界，而不仅仅是整体矩阵误差。
• 将理论保证扩展至平均度数随节点数量以多对数方式增长的稀疏网络。
• 通过利用特征分解中的单纯形结构，实现在大规模网络中准确且可扩展的推断。
• 设计一种基于剪枝的角点查找过程，可靠识别纯净节点，且无需事先知晓浓度参数 α₀。

提出的方法

• 推导MMSB模型中总体矩阵的精确逐行特征向量偏差界，从而支持每个节点的统一收敛速率。
• 利用总体矩阵特征分解中固有的单纯形结构，识别社区成员关系向量。
• 应用一种剪枝算法，基于特征向量空间中的局部密度去除非角点，同时保留真实的社区角点。
• 采用旋转不变的特征向量归一化方法，将经验特征向量与总体单纯形结构对齐。
• 整合一种受优化文献启发的几何角点查找策略，并针对网络数据进行适配，提供可证明的有限样本保证。
• 无需事先知晓浓度参数 α₀，与 [4] 等先前方法不同。

实验结果

研究问题

• RQ1 能否在MMSB模型下为混合成员关系估计建立统一的每个节点收敛速率？
• RQ2 如何推导出精确的特征向量偏差界，以支持在稀疏网络中的每个节点推断？
• RQ3 在未知 α₀ 的前提下，能否通过几何算法可靠识别纯净节点？
• RQ4 所提出方法在大规模真实网络中的误差、变异性与可扩展性表现如何？
• RQ5 剪枝机制如何确保真实社区角点被保留，同时去除虚假点？

主要发现

• 所提方法首次在MMSB模型下的重叠社区检测中实现了社区成员关系向量的统一每个节点收敛速率。
• 该算法的误差界在网络规模增大时仍保持有利增长，即使平均度数以 O((log n)^c) 的形式增长（c > 0 任意）。
• 实验表明，该方法在模拟网络和真实网络中均显著低于竞争方法（如 SVI、OCCAM、GeoNMF）的误差和变异性。
• 该方法在数十秒内即可处理规模达100,000个节点的网络，展现出极高的计算效率。
• 剪枝过程在多种设置下成功保留了真实的社区角点，几乎所有高范数节点均被剪除，仅在极端情况（如 K=10, n=2000）下例外。
• 该方法在社区亲和矩阵存在高非对角线噪声时，显著优于 GeoNMF 和 BSNMF。