[论文解读] Lifting Sum-of-Squares Lower Bounds: Degree-$2$ to Degree-$4$

Sidhanth Mohanty, Prasad Raghavendra+1 more|arXiv (Cornell University)|Nov 4, 2019

Tensor decomposition and applications参考文献 35被引用 5

一句话总结

本文提出了一种新颖的提升技术，可将布尔变量上的二度和平方（SoS）伪期望转换为四度SoS解，从而实现将二度SoS松弛的下界传递至四度SoS松弛。关键贡献在于针对图矩阵提出了一种谱范数界技术，其紧致性优于迹方法，进而为随机d-正则图上的MaxCut问题以及Sherrington-Kirkpatrick模型建立了显式的整数规划间隙下界。

ABSTRACT

The degree-$4$ Sum-of-Squares (SoS) SDP relaxation is a powerful algorithm that captures the best known polynomial time algorithms for a broad range of problems including MaxCut, Sparsest Cut, all MaxCSPs and tensor PCA. Despite being an explicit algorithm with relatively low computational complexity, the limits of degree-$4$ SoS SDP are not well understood. For example, existing integrality gaps do not rule out a $(2-\varepsilon)$-algorithm for Vertex Cover or a $(0.878+\varepsilon)$-algorithm for MaxCut via degree-$4$ SoS SDPs, each of which would refute the notorious Unique Games Conjecture. We exhibit an explicit mapping from solutions for degree-$2$ Sum-of-Squares SDP (Goemans-Williamson SDP) to solutions for the degree-$4$ Sum-of-Squares SDP relaxation on boolean variables. By virtue of this mapping, one can lift lower bounds for degree-$2$ SoS SDP relaxation to corresponding lower bounds for degree-$4$ SoS SDPs. We use this approach to obtain degree-$4$ SoS SDP lower bounds for MaxCut on random $d$-regular graphs, Sherington-Kirkpatrick model from statistical physics and PSD Grothendieck problem. Our constructions use the idea of pseudocalibration towards candidate SDP vectors, while it was previously only used to produce the candidate matrix which one would show is PSD using much technical work. In addition, we develop a different technique to bound the spectral norms of _graphical matrices_ that arise in the context of SoS SDPs. The technique is much simpler and yields better bounds in many cases than the _trace method_ -- which was the sole technique for this purpose.

研究动机与目标

• 为填补对四度和平方（SoS）SDP松弛局限性的理解空白，尽管其在捕捉最先进算法方面表现强大，但该问题仍未解决。
• 为布尔变量上的二度SoS解开发一种系统性方法，将其提升至四度SoS解，从而实现下界的传递。
• 提出一种针对图矩阵的新谱范数界技术，优于迹方法，可获得更紧致的界。
• 利用提升框架，为随机d-正则图上的MaxCut问题以及Sherrington-Kirkpatrick自旋玻璃模型建立显式的整数规划间隙下界。
• 证明在特定条件下，四度SoS SDP无法在随机d-正则图上的MaxCut问题中实现优于(1/2 + √(d−1)/d)的近似比。

提出的方法

• 提出从布尔变量上的二度伪期望到四度伪期望的提升映射，保持非负性与目标值结构。
• 使用伪校准构造候选SDP向量与矩阵，将伪校准的应用从矩阵构造扩展至完整解的提升。
• 引入字形分解技术，以更有效地分解图矩阵并控制其谱范数，优于迹方法。
• 应用Friedman定理对随机d-正则图的谱间隙进行分析，以控制特征值集中性，并界定扰动矩阵的范数。
• 通过结合提升后的伪期望与所得矩矩阵的谱范数界，构建四度SoS解。
• 利用大数律与图结构（如无回溯多项式）确保提升解以高概率满足所有SoS约束。

实验结果

研究问题

• RQ1 能否系统性地将二度SoS下界提升至布尔优化问题的四度SoS松弛？
• RQ2 在迹方法失效时，需要哪些新方法来界定SoS SDP中出现的图矩阵的谱范数？
• RQ3 该提升框架能否为随机d-正则图上的MaxCut问题及Sherrington-Kirkpatrick模型产生显式的整数规划间隙下界？
• RQ4 四度SoS SDP在多大程度上无法实现优于(1/2 + √(d−1)/d)的近似比，用于随机d-正则图上的MaxCut问题？
• RQ5 伪校准能否超越矩阵构造，扩展至可证明界的完整SoS解提升？

主要发现

• 本文构造了随机d-正则图上MaxCut的四度SoS解，其目标值至少为(1−2ε−γ(ε)/√d)2√(d−1)n，其中γ(ε)为仅依赖于ε的常数。
• 对任意正常数ε>0，以高概率在随机d-正则图上，四度SoS松弛的MaxCut值至少为1/2 + √(d−1)/d (1−2ε−γ(ε)/√d)，表明存在非平凡的整数规划间隙。
• 通过一种新颖的字形分解与谱范数界技术，将提升后矩矩阵的谱范数控制在仅依赖于ε的常数范围内，其性能优于迹方法。
• 该提升框架成功地将二度SoS的下界传递至四度SoS，实现了首次在四度下为随机d-正则图上的MaxCut问题构造显式整数规划间隙。
• 该方法为Sherrington-Kirkpatrick哈密顿量提供了四度SoS下界，证明了该框架在MaxCut之外的适用性。
• 分析表明，在唯一性游戏假设下，四度SoS SDP无法实现对MaxCut的(0.878+ε)-近似或对Vertex Cover的(2−ε)-近似。