[论文解读] Optimization on Sparse Random Hypergraphs and Spin Glasses

Subhabrata Sen|arXiv (Cornell University)|Jun 8, 2016

Markov Chains and Monte Carlo Methods参考文献 66被引用 10

一句话总结

该论文证明，在度数趋于无穷的极限下，稀疏随机超图上的优化问题——如最大 $q$-割、最大 XORSAT 和随机块模型中的最小割——其渐近行为由相应的高斯优化问题所主导。关键结果表明，对于 XORSAT，最优值的尺度为 $\frac{d}{2p} + \frac{P_p}{2}\sqrt{\frac{d}{p}} + o_d(\sqrt{d})$，其他问题亦有类似表达式，通过基于高斯混沌与集中不等式的统一框架，推广了先前关于 MaxCut 的结果。

ABSTRACT

We establish that in the large degree limit, the value of certain optimization problems on sparse random hypergraphs is determined by an appropriate Gaussian optimization problem. This approach was initiated in Dembo et. al.(2016) for extremal cuts of graphs. The usefulness of this technique is further illustrated by deriving the optimal value for Max $q$-cut on Erdős-Rényi and random regular graphs, Max XORSAT on Erdős-Rényi hypergraphs, and the min-bisection for the Stochastic Block Model.

研究动机与目标

• 将随机图上 MaxCut 的高斯近似技术推广至稀疏随机超图上更广泛的优化问题类别。
• 基于高斯过程，建立统一框架以分析稀疏随机超图上的极值优化问题。
• 在大度数极限下，推导 Max $q$-割、最大 XORSAT 和随机块模型中最小割问题的最优值的精确渐近表达式。
• 通过测度集中与高斯混沌方法，简化并扩展 [DMS16] 中关于 MaxCut 的结果，推广至超图与自旋玻璃模型。

提出的方法

• 在超图中顶点 $p$-元组索引的对称随机变量数组上建立一般优化问题。
• 利用超图局部结构在大度数极限下收敛于高斯场的事实，将问题约化为高斯过程近似。
• 采用两步近似：首先将超图优化与具有 i.i.d. 高斯权重的完全图进行比较；其次通过混沌分解与集中不等式分析所得高斯优化问题。
• 应用 Lindeberg 原理与高斯比较不等式，控制原始超图问题与极限高斯问题之间的差异。
• 采用条件期望分解，将超图结构对随机变量的贡献解耦，从而可应用高斯尾部概率界。
• 利用最大值的变分表示，将最优值表示为自旋配置经验测度的函数，从而导出概率测度上的变分问题。

实验结果

研究问题

• RQ1 在大度数极限下，稀疏随机超图上 Max $q$-割的最优值行为如何？
• RQ2 随着度数增长，Erdős-Rényi 超图上 Max XORSAT 的最优值能否被渐近精确刻画？
• RQ3 随机块模型中的最小割问题在多大程度上表现出与随机图中 MaxCut 相似的渐近行为？
• RQ4 用于 MaxCut 的高斯近似技术能否推广至具有高阶相互作用的超图与自旋玻璃模型？
• RQ5 在大度数区域，这些问题的最优值的精确主导项渐近展开为何？

主要发现

• 对于具有 $p$-元子句与平均度数 $d$ 的 Erdős-Rényi 超图上的最大 XORSAT，可满足子句的最优比例渐近为 $\frac{d}{2p} + \frac{P_p}{2}\sqrt{\frac{d}{p}} + o_d(\sqrt{d})$，其中 $P_p$ 是从 $p$-自旋 Sherrington-Kirkpatrick 模型导出的常数。
• Erdős-Rényi 图与随机正则图上 Max $q$-割的最优值收敛于 $\frac{d}{4} + \frac{P_*}{2}\sqrt{\frac{d}{4}} + o_d(\sqrt{d})$，将 [DMS16] 的结果推广至一般 $q$。
• 随机块模型中的最小割问题达到的最优值与高斯近似一致，主导项校正项由对应自旋玻璃模型的基态能量决定。
• 所有这些问题的渐近行为由自旋配置经验测度上的变分问题所主导，最优值可表示为高斯过程最大值的泛函。
• 证明表明，超图优化与其高斯对应物之间的差异以高概率为 $o_d(\sqrt{d})$，从而在大度数极限下验证了该近似的有效性。
• 该框架通过将多种问题——MaxCut、Max XORSAT、最小割——统一约化为同一高斯优化问题，揭示了普遍的渐近结构。