[论文解读] Achieving Optimal Misclassification Proportion in Stochastic Block Model

Chao Gao, Zongming Ma+2 more|arXiv (Cornell University)|May 14, 2015

Complex Network Analysis Techniques参考文献 74被引用 56

一句话总结

该论文提出了一种两阶段计算高效的社区检测算法，适用于随机块模型，在弱正则性条件下实现了最优误分类比例。该方法在精炼阶段采用惩罚局部最大似然估计，对弱一致初始化器进行优化，从而以高概率保证最小最大最优性能。

ABSTRACT

Community detection is a fundamental statistical problem in network data analysis. Many algorithms have been proposed to tackle this problem. Most of these algorithms are not guaranteed to achieve the statistical optimality of the problem, while procedures that achieve information theoretic limits for general parameter spaces are not computationally tractable. In this paper, we present a computationally feasible two-stage method that achieves optimal statistical performance in misclassification proportion for stochastic block model under weak regularity conditions. Our two-stage procedure consists of a generic refinement step that can take a wide range of weakly consistent community detection procedures as initializer, to which the refinement stage applies and outputs a community assignment achieving optimal misclassification proportion with high probability. The practical effectiveness of the new algorithm is demonstrated by competitive numerical results.

研究动机与目标

• 弥合网络数据社区检测中统计最优性与计算可行性之间的差距。
• 开发一种计算上可行的方法，实现误分类比例的信息论下限。
• 提供一种精炼过程，可将任意弱一致的社区检测初始化器提升至最优性能。
• 在社区大小不等的一般SBM设定下，建立误分类比例的理论保证。
• 使网络分析的理论与算法成熟度达到与其他高维统计问题相当的水平。

提出的方法

• 提出两阶段算法：首先应用任意弱一致的社区检测方法作为初始化器。
• 在精炼阶段应用惩罚局部最大似然估计，以改进初始分配结果。
• 利用Davis–Kahan定理控制归一化拉普拉斯矩阵的估计特征向量与真实特征向量之间的差异。
• 在SBM下建立邻接矩阵归一化拉普拉斯矩阵的集中性界。
• 利用SBM的谱性质，确保精炼后的分配实现最优误分类率。
• 通过特征值与特征向量扰动理论，证明精炼分配以高概率收敛至真实社区结构。

实验结果

研究问题

• RQ1 是否存在一种计算高效的算法，可在随机块模型中实现最小最大最优误分类比例？
• RQ2 基于惩罚局部最大似然估计的精炼阶段是否能将任意弱一致初始化器提升至最优性能？
• RQ3 在何种理论条件下，误分类比例可收敛至信息论下限？
• RQ4 与谱聚类和基于似然的方法相比，该方法在统计最优性与计算可行性方面表现如何？
• RQ5 在一般SBM参数下，该算法能否实现强一致性（零误分类）或弱一致性（误分类趋于零）？

主要发现

• 所提出的两阶段方法在弱正则性条件下，以高概率实现最优误分类比例。
• 通过惩罚局部最大似然估计的精炼阶段，可确保最小最大最优性，只要初始估计器是弱一致的即可。
• 该方法的误分类比例被控制在 $ Oig(rac{a ho ho_{ ext{min}} ho_{ ext{max}}}{ ho_{ ext{min}}^2 au^2}ig) $ 以内，其中 $ a $ 是与信噪比相关的常数。
• 理论分析证实，该算法在随机块模型中实现了社区检测的最小最大率。
• 利用Davis–Kahan定理控制特征向量误差，从而对精炼分配中的误分类误差实现紧密控制。
• 该方法对社区大小不均和一般连接矩阵具有鲁棒性，扩展了以往要求社区平衡或强信号条件的研究结果。