[论文解读] Engineering and Business Applications of Sum of Squares Polynomials

Georgina Hall|arXiv (Cornell University)|Jun 19, 2019

Advanced Optimization Algorithms Research参考文献 65被引用 4

一句话总结

本文全面综述了平方和（SOS）多项式优化技术及其在工程、商业和计算科学领域的应用。它展示了SOS规划如何通过代数证书将困难的非凸多项式优化问题转化为可处理的半定规划（SDP），从而解决控制理论、金融、机器学习和博弈论中的问题。

ABSTRACT

Optimizing over the cone of nonnegative polynomials, and its dual counterpart, optimizing over the space of moments that admit a representing measure, are fundamental problems that appear in many different applications from engineering and computational mathematics to business. In this paper, we review a number of these applications. These include, but are not limited to, problems in control (e.g., formal safety verification), finance (e.g., option pricing), statistics and machine learning (e.g., shape-constrained regression and optimal design), and game theory (e.g., Nash equilibria computation in polynomial games). We then show how sum of squares techniques can be used to tackle these problems, which are hard to solve in general. We conclude by highlighting some directions that could be pursued to further disseminate sum of squares techniques within more applied fields. Among other things, we briefly address the current challenge that scalability represents for optimization problems that involve sum of squares polynomials and discuss recent trends in software development.

研究动机与目标

• 弥合平方和优化理论进展与工程和商业中实际应用之间的差距。
• 展示如何通过SOS技术将此前难以求解的非凸多项式优化问题重新表述为可处理的半定规划（SDP）。
• 提供易于理解的应用特定框架，使领域知识有限的研究人员能够使用SOS编程建模并求解复杂问题。
• 解决SOS优化中的可扩展性挑战，并突出近期软件和算法进展，以提升大规模问题的性能。
• 通过展示跨多样化领域的具体真实世界用例，倡导在应用领域更广泛地采用SOS方法。

提出的方法

• 将非负多项式约束和矩条件表述为在非负多项式锥或表示测度上的优化问题。
• 利用平方和（SOS）分解，将多项式非负性条件转换为半定规划（SDP），利用SOS多项式非负且可由正定矩阵表示的性质。
• 应用多项式李雅普诺夫函数和基于SOS的证书，验证连续和离散时间多项式动力系统中的稳定性、安全性和不变性。
• 利用基于矩的重构方法解决期权定价、形状约束回归和最优设计等问题，其中正性和矩约束是核心。
• 采用SOS技术通过将均衡条件重构为具有非负性约束的多项式可行性问题，计算多项式博弈中的纳什均衡。
• 利用建模解析器（如YALMIP、SOSTOOLS、JuMP/SumofSquares.jl）和可扩展的SDP求解器（如SCS、SDPNAL+）自动将SOS问题转换为可求解的SDP。
• 通过结构利用（稀疏性、对称性）和替代锥松弛来减轻计算负担，以提升可扩展性。

实验结果

研究问题

• RQ1 SOS技术如何在不显式求解轨迹的情况下，通过代数证书正式验证多项式动力系统的稳定性和安全性？
• RQ2 在建模非负收益函数时，SOS优化在金融领域的期权定价和风险管理中有哪些应用方式，特别是针对非负收益函数？
• RQ3 如何利用SOS编程形式化并求解形状约束回归和最优实验设计问题，以强制执行单调性或凸性约束？
• RQ4 SOS方法在计算多项式博弈中的均衡中扮演什么角色？与传统方法相比有何差异？
• RQ5 SOS优化在大规模问题中面临哪些关键挑战？近期的算法和软件进展如何帮助克服这些挑战？

主要发现

• SOS技术通过构造基于平方和多项式的代数证书，能够对多项式动力系统中的稳定性、碰撞避免和不变性进行正式认证。
• 将非负多项式约束转换为半定规划，使得即使在闭式解难以求解的情况下，也能通过标准SDP求解器高效求解。
• 金融应用包括在期权定价中建模非负收益函数，其中基于SOS的矩问题提供了可处理的近似方法。
• 在机器学习中，基于SOS的形状约束回归和最优设计问题可高效求解，确保估计函数的单调性或凸性。
• 对于多项式博弈，SOS编程通过将均衡条件重构为具有非负性约束的多项式可行性问题，实现了纳什均衡的计算。
• 尽管已有进展，可扩展性仍是主要挑战，因为SDP规模随多项式次数和变量数量呈指数增长，这促使研究者探索稀疏、结构化及一阶求解器（如SCS和SDPNAL+）以应对该问题。