[论文解读] On the Equivalence of SDP Feasibility and a Convex Hull Relaxation for System of Quadratic Equations

Bahman Kalantari|arXiv (Cornell University)|Nov 10, 2019

Advanced Optimization Algorithms Research参考文献 15被引用 5

一句话总结

本文建立了半定规划（SDP）可行性与二次方程组的凸包松弛（CHR）之间的等价性，使得三角形算法——一种几何的、迭代的方法——能够用于求解SDP问题。其主要贡献在于提出了一种新颖且潜在更高效的内点法替代方案，实证结果表明该方法在MAX-CUT松弛问题上具有快速求解性能，并对多项式系统展现出良好前景。

ABSTRACT

We show {\it semidefinite programming} (SDP) feasibility problem is equivalent to solving a {\it convex hull relaxation} (CHR) for a finite system of quadratic equations. On the one hand, this offers a simple description of SDP. On the other hand, this equivalence makes it possible to describe a version of the {\it Triangle Algorithm} for SDP feasibility based on solving CHR. Specifically, the Triangle Algorithm either computes an approximation to the least-norm feasible solution of SDP, or using its {\it distance duality}, provides a separation when no solution within a prescribed norm exists. The worst-case complexity of each iteration is computing the largest eigenvalue of a symmetric matrix arising in that iteration. Alternate complexity bounds on the total number of iterations can be derived. The Triangle Algorithm thus provides an alternative to the existing interior-point algorithms for SDP feasibility and SDP optimization. In particular, based on a preliminary computational result, we can efficiently solve SDP relaxation of {\it binary quadratic} feasibility via the Triangle Algorithm. This finds application in solving SDP relaxation of MAX-CUT. We also show in the case of testing the feasibility of a system of convex quadratic inequalities, the problem is reducible to a corresponding CHR, where the worst-case complexity of each iteration via the Triangle Algorithm is solving a {\it trust region subproblem}. Gaining from these results, we discuss potential extension of CHR and the Triangle Algorithm to solving general system of polynomial equations.

研究动机与目标

• 建立半定规划（SDP）可行性与二次方程组凸包松弛（CHR）之间的理论等价性。
• 证明三角形算法可高效求解CHR问题，为SDP提供一种替代内点法的方案。
• 提出一种基于几何与对偶性的SDP可行性与优化方法，具备多项式时间复杂度上界。
• 探索CHR与三角形算法在齐次多项式方程组中的扩展应用。
• 在二元二次可行性与MAX-CUT问题的SDP松弛上，对方法进行实证验证。

提出的方法

• 本文将二次方程组的可行性表述为凸包松弛（CHR），其中可行性通过检验右侧向量是否属于二次型映射的凸包来判断。
• 通过任一凸包内点可表示为至多m+1个点的凸组合这一事实，建立CHR求解与SDP可行性问题之间的等价性，从而导出一个半正定矩阵X。
• 应用三角形算法检测点是否属于凸包，利用距离对偶性，要么找到近似解，要么提供一个分离超平面。
• 三角形算法的每次迭代通过幂法求解对称矩阵的最大特征值来计算枢轴，且可通过复用枢轴以降低计算成本。
• 对于凸二次不等式系统，问题可简化为非齐次CHR，每次迭代需在最坏情况下求解一个信赖域子问题。
• 通过考虑在单位球面上多线性形式的最大值，将方法扩展至齐次多项式系统，潜在地利用高阶幂法进行张量特征值计算。

实验结果

研究问题

• RQ1 二次方程组的可行性是否等价于检验目标向量是否位于二次型映射像的凸包内？
• RQ2 三角形算法能否有效用于求解此类系统的凸包松弛，从而为内点法提供替代方案？
• RQ3 当通过CHR将三角形算法应用于SDP可行性时，每次迭代的最坏情况时间复杂度是多少？
• RQ4 CHR与三角形算法框架能否扩展至次数d ≥ 3的齐次多项式方程组？
• RQ5 在MAX-CUT等组合优化问题的SDP松弛上，三角形算法的性能与现有方法相比如何？

主要发现

• 二次方程组的可行性等价于检验右侧向量是否属于所有m元组(q₁(x), ..., qₘ(x))（x ∈ ℝⁿ）的凸包。
• 凸包松弛（CHR）可重述为SDP问题，SDP的可行解对应于像集中至多m+1个点的凸组合。
• 三角形算法在每次迭代中以多项式时间求解CHR，每次迭代需计算对称矩阵的最大特征值，可通过幂法实现。
• 初步计算结果表明，三角形算法在1000×1000规模的矩阵上，可在数秒内求解二元二次可行性与MAX-CUT问题的SDP松弛。
• 对于凸二次不等式系统，问题简化为非齐次CHR，最坏情况下每次迭代需求解一个信赖域子问题。
• 该框架为通过CHR与三角形算法求解一般齐次多项式方程组提供了可行路径，前提是能高效计算高阶枢轴，例如借助张量方法。