[论文解读] Counterexample to global convergence of DSOS and SDSOS hierarchies

Cédric Josz|arXiv (Cornell University)|Jul 10, 2017

Advanced Optimization Algorithms Research参考文献 5被引用 4

一句话总结

本文提出了多项式优化中DSOS与SDSOS层级全局收敛性的反例，表明基于线性规划与二阶锥规划的这些方法可能无法收敛至全局下确界。作者证明，即使在提升松弛阶数后，这些层级仍可能无法逼近真实最优值，从而反驳了文献中关于其全局收敛性及作为平方和优化替代方法的可处理性的主张。

ABSTRACT

We exhibit a convex polynomial optimization problem for which the diagonally-dominant sum-of-squares (DSOS) and the scaled diagonally-dominant sum-of-squares (SDSOS) hierarchies, based on linear programming and second-order conic programming respectively, do not converge to the global infimum. The same goes for the r-DSOS and r-SDSOS hierarchies. This refutes the claim in the literature according to which the DSOS and SDSOS hierarchies can solve any polynomial optimization problem to arbitrary accuracy. In contrast, the Lasserre hierarchy based on semidefinite programming yields the global infimum and the global minimizer with the first order relaxation. We further observe that the dual to the SDSOS hierarchy is the moment hierarchy where every positive semidefinite constraint is relaxed to all necessary second-order conic constraints. As a result, the number of second-order conic constraints grows quadratically in function of the size of the positive semidefinite constraints in the Lasserre hierarchy. Together with the counterexample, this suggests that DSOS and SDSOS are not necessarily more tractable alternatives to sum-of-squares.

研究动机与目标

• 挑战广泛存在的观点，即DSOS与SDSOS层级会全局收敛至多项式优化问题的最优解。
• 提供一个具体的凸多项式优化问题，其中DSOS与SDSOS层级无法收敛至全局下确界。
• 阐明SDSOS层级与矩量层级之间的关系，特别是在约束松弛方面的联系。
• 质疑DSOS与SDSOS本质上比基于半定规划的平方和方法更具可处理性的假设。

提出的方法

• 构造一个具有唯一全局极小值点与紧致可行集的特定凸多项式优化问题。
• 应用DSOS与SDSOS层级，分别用线性约束与二阶锥约束替代Lasserre层级中的半定约束。
• 利用Putinar的Positivstellensatz证明相同问题下Lasserre层级的全局收敛性。
• 分析SDSOS层级的对偶形式，表明其对应于将每个半定约束松弛为所有必要的二阶锥约束。
• 证明二阶锥约束的数量随原始半定约束规模的平方增长。
• 通过反证法证明，对于目标函数的缩放版本，不存在SDSOS表示，从而表明SDSOS层级不收敛。

实验结果

研究问题

• RQ1 DSOS层级是否对每个凸多项式优化问题的最优解都全局收敛？
• RQ2 即使松弛阶数不断增加，SDSOS层级是否仍可能无法收敛至全局下确界？
• RQ3 在收敛性方面，SDSOS层级是否严格弱于Lasserre层级？
• RQ4 考虑到其可能无法全局收敛，DSOS与SDSOS层级是否真的比平方和优化更具可处理性？
• RQ5 SDSOS层级的对偶与矩量层级之间的确切关系是什么？

主要发现

• 构造了一个凸多项式优化问题，其中DSOS与SDSOS层级即使在提升松弛阶数后，仍无法收敛至全局下确界。
• 基于半定规划的Lasserre层级在第一阶松弛下即可实现全局收敛，并准确识别出全局极小值点。
• SDSOS层级的对偶形式对应于将每个半定约束松弛为所有必要的二阶锥约束，导致约束数量呈二次增长。
• SDSOS层级无法将目标函数的缩放版本表示为约束下的平方和，从而证明其不收敛。
• r-DSOS与r-SDSOS层级在同一反例下也未能实现全局收敛。
• 研究结果否定了文献中关于DSOS与SDSOS层级可对任意多项式优化问题以任意精度求解的主张。