[论文解读] On Difference-of-SOS and Difference-of-Convex-SOS Decompositions for Polynomials

Yi-Shuai Niu, Thi, Hoai An Le+1 more|arXiv (Cornell University)|Mar 27, 2018

Advanced Optimization Algorithms Research参考文献 38被引用 4

一句话总结

本文提出了多变量多项式差异平方和（D-SOS）与差异凸平方和（DC-SOS）分解方法，可将非凸多项式优化问题重新表述为DC规划问题。所提方法可通过半定规划或直接代数算法高效求解，并在投资组合优化、矩阵补全和布尔规划等领域具有应用价值。

ABSTRACT

In this article, we are interested in developing polynomial decomposition techniques based on sums-of-squares (SOS), namely the difference-of-sums-of-squares (D-SOS) and the difference-of-convex-sums-of-squares (DC-SOS). In particular, the DC-SOS decomposition is very useful for difference-of-convex (DC) programming formulation of polynomial optimization problems. First, we introduce the cone of convex-sums-of-squares (CSOS) polynomials and discuss its relationship to the sums-of-squares (SOS) polynomials, the non-negative polynomials and the SOS-convex polynomials. Then, we propose the set of D-SOS and DC-SOS polynomials, and prove that any polynomial can be formulated as D-SOS and DC-SOS. The problem of finding D-SOS and DC-SOS decompositions can be formulated as a semi-definite program and solved for any desired precision in polynomial time using interior point methods. Some algebraic properties of CSOS, D-SOS and DC-SOS are established. Second, we focus on establishing several practical algorithms for exact D-SOS and DC-SOS polynomial decompositions without solving any SDP. The numerical performance of the proposed D-SOS and DC-SOS decomposition algorithms and their parallel versions, tested on a dataset of 1750 randomly generated polynomials, is reported.

研究动机与目标

• 开发代数分解技术，将任意实值多变量多项式表示为平方和的差异（D-SOS）或凸平方和的差异（DC-SOS）形式。
• 证明D-SOS与DC-SOS多项式构成的集合是向量空间，且与所有实多项式空间等价。
• 提出实用的、非基于SDP的算法，用于构造具有最小次数分量的D-SOS与DC-SOS分解。
• 实现多项式优化问题向DC规划框架的重构，以实现高效数值求解。
• 展示这些分解在实际应用中的有效性，如矩量投资组合优化、特征值互补问题及布尔多项式规划。

提出的方法

• 证明D-SOS与DC-SOS多项式集合为向量空间，且与所有实多项式空间等价。
• 表明寻找D-SOS与DC-SOS分解等价于求解半定规划（SDP），可在多项式时间内以任意精度求解。
• 提出实用的、非SDP算法——MD-DCSOS与FMD-DCSOS——用于构造D-SOS与DC-SOS分解，无需求解SDP。
• 利用谱分解技术生成非支配D-SOS分解，提升DC算法中的收敛性能。
• 通过幂积矩阵构造偶次齐次多项式的CSOS基，实现平方项数量亚指数增长的高效DC-SOS表示。
• 将DC-SOS分解与DCA及Lasserre的SDP松弛法结合，提升多项式优化中局部极小解的质量。

实验结果

研究问题

• RQ1 任意实值多变量多项式是否可分解为平方和的差异（D-SOS）形式？该分解是否唯一或存在结构约束？
• RQ2 是否可不通过求解半定规划来构造D-SOS与DC-SOS分解？此类代数方法具有何种计算优势？
• RQ3 SOS、PSD、凸SOS、SOS-凸、D-SOS与DC-SOS多项式集合之间存在何种关系？它们与多项式优化有何关联？
• RQ4 是否可系统性地生成非支配DC-SOS分解？这对DCA在多项式优化中的收敛性有何影响？
• RQ5 能否为偶次齐次多项式构造CSOS基，使得平方项数量呈亚指数增长，从而实现高效的DC-SOS表示？

主要发现

• D-SOS与DC-SOS多项式集合为向量空间，且与所有实多项式空间等价。
• D-SOS与DC-SOS分解问题等价于半定规划（SDP），可在多项式时间内以任意精度求解。
• 开发了实用的、非基于SDP的算法——MD-DCSOS与FMD-DCSOS——用于构造具有最小次数分量的D-SOS与DC-SOS分解。
• 对1750个合成多项式（稀疏与密集、大与小）的数值实验验证了所提分解算法及其并行化变体的高效性与可扩展性。
• 谱D-SOS分解可生成非支配D-SOS分解，有利于提升基于DCA求解器的收敛性能。
• 提出基于幂积矩阵的CSOS基构造方法，显示出平方项数量可能实现亚指数增长，从而为偶次齐次多项式提供高效的DC-SOS表示。