[论文解读] Semidefinite Programs on Sparse Random Graphs.

Andrea Montanari, Subhabrata Sen|arXiv (Cornell University)|Apr 22, 2015

Random Matrices and Applications参考文献 37被引用 26

一句话总结

本文分析了一个半定规划（SDP），该规划旨在最大化 Erdös-Rényi 随机图的中心化邻接矩阵与秩-1及低秩正定矩阵之间的内积。通过结合一种新颖的高阶 Grothendieck 不等式与自旋玻璃理论中的插值法，本文证明：在平均度有界的条件下，该 SDP 值以高概率为 $ 2n\sqrt{\gamma} + n\, o(\sqrt{\gamma}) + o(n) $，从而为基于 SDP 的社区检测提供了改进的边界。

ABSTRACT

Denote by $A$ the adjacency matrix of an Erd\H{o}s-Renyi graph with bounded average degree. We consider the problem of maximizing $\langle A-{\mathbb E}\{A\},X angle$ over the set of positive semidefinite matrices $X$ with diagonal entries $X_{ii}=1$. We prove that for large (bounded) average degree $\gamma$, the value of this semidefinite program (SDP) is -with high probability- $2n\sqrt{\gamma} + n\, o(\sqrt{\gamma})+ o(n)$. Our proof is based on two tools from different research areas. First, we develop a new `higher-rank' Grothendieck inequality for symmetric matrices. In the present case, our inequality implies that the value of the above SDP is arbitrarily well approximated by optimizing over rank-$k$ matrices for $k$ large but bounded. Second, we use the interpolation method from spin glass theory to approximate this problem by a second one concerning Wigner random matrices instead of sparse graphs. As an application of our results, we prove new bounds on community detection via SDP that are substantially more accurate than the state of the art.

研究动机与目标

• 分析在平均度有界的 Erd\'os-R\'enyi 随机图上，基于其中心化邻接矩阵的半定规划（SDP）的值。
• 在顶点数 $ n $ 趋于无穷大时，建立 SDP 值的精确渐近表达式。
• 为对称矩阵设计一种新型高阶 Grothendieck 不等式，以在低秩矩阵上近似 SDP 的值。
• 应用自旋玻璃理论中的插值法，将稀疏图问题转化为基于 Wigner 矩阵的问题。
• 推导基于半定规划的社区检测的改进边界。

提出的方法

• 提出一种新颖的高阶 Grothendieck 不等式，使得可通过在有界 $ k $ 的秩-$ k $ 矩阵上优化，来近似在完整正定锥上的 SDP 值。
• 利用自旋玻璃理论中的插值法，将稀疏随机图模型与 Wigner 矩阵模型关联，从而借助随机矩阵理论工具进行分析。
• 证明：当 $ n $ 足够大且 $ \gamma $ 有界时，SDP 值以高概率集中在 $ 2n\sqrt{\gamma} + n\, o(\sqrt{\gamma}) + o(n) $ 附近。
• 利用集中与比较技术控制近似中的误差项，确保渐近表达式对有界 $ \gamma $ 一致成立。
• 将推导出的 SDP 边界应用于社区检测问题，表明其检测阈值优于先前工作。

实验结果

研究问题

• RQ1 在平均度有界的 Erd\'os-R\'enyi 随机图上，最大化 $ \langle A - \mathbb{E}\{A\}, X \rangle $ 的半定规划（SDP）值的渐近表达式是什么，其中 $ X $ 为单位对角线的正定矩阵？
• RQ2 能否发展一种高阶 Grothendieck 不等式，以利用低秩矩阵近似 SDP 值？
• RQ3 如何将插值法调整以在 SDP 分析背景下，将稀疏随机图模型与 Wigner 矩阵模型关联？
• RQ4 所推导的 SDP 边界在多大程度上改善了社区检测算法的性能保证？
• RQ5 SDP 值表达式中的校正项的精确阶是多少？它们如何随 $ n $ 和 $ \gamma $ 变化？

主要发现

• 当 $ n $ 足够大且平均度 $ \gamma $ 有界时，SDP 值以高概率为 $ 2n\sqrt{\gamma} + n\, o(\sqrt{\gamma}) + o(n) $。
• 高阶 Grothendieck 不等式确保：对有界 $ k $ 的秩-$ k $ 矩阵进行优化，可任意精确地近似完整 SDP 值。
• 插值法成功地将稀疏图 SDP 的分析简化为一个相关的 Wigner 矩阵问题，从而可应用成熟的随机矩阵理论工具。
• 所推导的 SDP 值表达式是精确的，因为误差项小于任何常数倍的 $ n\sqrt{\gamma} $。
• 结果显著改进了基于 SDP 的社区检测边界，超越了当前最先进的精度。
• 分析确认主导项 $ 2n\sqrt{\gamma} $ 主导了 SDP 值，而次主导校正项在渐近意义下可忽略。