[论文解读] Achieving Exact Cluster Recovery Threshold via Semidefinite Programming: Extensions

Bruce Hajek, Yihong Wu+1 more|arXiv (Cornell University)|Feb 26, 2015

Advanced Causal Inference Techniques参考文献 41被引用 40

一句话总结

该论文证明了在多种随机块模型变体中，半定规划（SDP）松弛方法可实现精确恢复的阈值，包括非对称两簇SBM、等大小群组的多簇SBM，以及具有Erdős-Rényi背景图的删失块模型。主要贡献在于，通过针对具异常值的一般群组结构构造对偶证书，证明了SDP在与最大似然估计器相同的尖锐阈值条件下实现最优恢复。

ABSTRACT

Resolving a conjecture of Abbe, Bandeira and Hall, the authors have recently shown that the semidefinite programming (SDP) relaxation of the maximum likelihood estimator achieves the sharp threshold for exactly recovering the community structure under the binary stochastic block model of two equal-sized clusters. The same was shown for the case of a single cluster and outliers. Extending the proof techniques, in this paper it is shown that SDP relaxations also achieve the sharp recovery threshold in the following cases: (1) Binary stochastic block model with two clusters of sizes proportional to network size but not necessarily equal; (2) Stochastic block model with a fixed number of equal-sized clusters; (3) Binary censored block model with the background graph being Erdős-Rényi. Furthermore, a sufficient condition is given for an SDP procedure to achieve exact recovery for the general case of a fixed number of clusters plus outliers. These results demonstrate the versatility of SDP relaxation as a simple, general purpose, computationally feasible methodology for community detection.

研究动机与目标

• 通过半定规划解决二值随机块模型中精确恢复阈值的猜想。
• 将SDP的最优性从等大小群组扩展至非对称群组大小和多群组情形。
• 证明在具有Erdős-Rényi图背景的删失块模型中，SDP可实现精确恢复，解决一个开放问题。
• 为固定数量的不等大小群组及异常值的一般情形，提供SDP实现精确恢复的充分条件。
• 通过使用一致估计量调整惩罚参数，证明SDP在群组大小未知时仍保持最优性能。

提出的方法

• 通过构造SDP可行性问题的对偶证书，证明在尖锐阈值条件下实现精确恢复。
• 利用集中不等式和Berry-Esseen界，验证估计群组权重和大小的一致性。
• 利用群组大小和边权分布的样本估计，自适应调整SDP公式中的惩罚参数。
• 将先前针对等大小群组的工作中的证明技术扩展至处理非对称和多群组配置。
• 引入一种数据驱动的惩罚参数，其以概率收敛至最优确定性阈值。
• 应用拉格朗日松弛处理未知群组大小问题，证明等大小群组的阈值条件对精确恢复仍充分。

实验结果

研究问题

• RQ1 在两簇大小不等的二值随机块模型中，SDP能否实现精确恢复阈值？
• RQ2 在具有r个等大小群组（r ≥ 2固定）的多群组随机块模型中，SDP是否实现最优恢复？
• RQ3 在具有Erdős-Rényi背景图的删失块模型中，最优恢复阈值是否可通过SDP实现？
• RQ4 在固定数量的不等大小群组及异常值的一般情形下，何种充分条件可确保通过SDP实现精确恢复？
• RQ5 能否使SDP对未知群组大小具有自适应性，同时保持最优恢复性能？

主要发现

• 在群组大小与n成比例的非对称两簇SBM中，SDP实现精确恢复，达到信息论阈值。
• 对于固定数量r ≥ 2个等大小群组，SDP在与两簇情形相同的尖锐阈值条件下实现精确恢复。
• 在具有Erdős-Rényi背景图的删失块模型中，SDP在最优阈值下实现精确恢复，解决了开放问题。
• 当群组大小未知但最小群组大小已知时，只要惩罚参数自适应估计，SDP过程仍保持最优。
• 对偶证书构造技术成功推广至多群组和异常顶点情形，实现了统一的分析框架。
• 构建了群组大小ρ、边权均值w₊和w₋的一致估计量，使基于数据的惩罚参数选择保持渐近最优。