[論文レビュー] Engineering and Business Applications of Sum of Squares Polynomials

Georgina Hall|arXiv (Cornell University)|Jun 19, 2019

Advanced Optimization Algorithms Research参考文献 65被引用数 4

ひとこと要約

本稿は、工学、経済学、計算科学の分野における多項式最適化技術とその応用を包括的に調査した論文である。SOS（和の平方）プログラミングを用いることで、代数的証明を介して、非凸な多項式最適化問題を扱いやすい半正定値計画問題（SDP）に変換する手法を示しており、制御理論、ファイナンス、機械学習、ゲーム理論の分野における問題解決を可能にする。

ABSTRACT

Optimizing over the cone of nonnegative polynomials, and its dual counterpart, optimizing over the space of moments that admit a representing measure, are fundamental problems that appear in many different applications from engineering and computational mathematics to business. In this paper, we review a number of these applications. These include, but are not limited to, problems in control (e.g., formal safety verification), finance (e.g., option pricing), statistics and machine learning (e.g., shape-constrained regression and optimal design), and game theory (e.g., Nash equilibria computation in polynomial games). We then show how sum of squares techniques can be used to tackle these problems, which are hard to solve in general. We conclude by highlighting some directions that could be pursued to further disseminate sum of squares techniques within more applied fields. Among other things, we briefly address the current challenge that scalability represents for optimization problems that involve sum of squares polynomials and discuss recent trends in software development.

研究の動機と目的

• 和の平方最適化における理論的進展と工学・経済分野における実用的応用の間のギャップを埋めること。
• 従来は解けなかった非凸多項式最適化問題が、SOS技術を用いることで扱いやすい半正定値計画問題（SDP）に再定式化可能であることを示すこと。
• 分野知識が限定された研究者でも、SOSプログラミングを用いて複雑な問題をモデル化・解釈できる、応用指向のフレームワークを提供すること。
• SOS最適化におけるスケーラビリティの課題に取り組み、大規模問題に対する性能向上を図る最近のソフトウェアおよびアルゴリズム的進展を強調すること。
• 多様な分野における具体的な実世界の事例を提示することで、応用分野におけるSOS手法の広範な採用を促すこと。

提案手法

• 非負多項式制約およびモーメント条件を、非負多項式の錐または表現測度の上での最適化問題として定式化する。
• 和の平方（SOS）分解を用いて、多項式の非負性条件を半正定値計画問題（SDP）に変換する。SOS多項式は非負であり、正定値行列を用いて表現可能であるという事実を活用する。
• 連続時間および離散時間の多項式力学系における安定性、安全性、不変性の検証に、多項式リャプノフ関数とSOSに基づく証明を適用する。
• 正の制約およびモーメント制約が中心となるオプション価格設定、形状制約付き回帰、最適実験設計の問題に対して、モーメントに基づく再定式化を適用する。
• 均衡条件を多項式の可解性問題に再定式化することで、SOS技術を用いて多項式ゲームにおけるナッシュ均衡を計算する。
• YALMIP、SOSTOOLS、JuMP/SumofSquares.jl などのモデリングパーサーと、SCS、SDPNAL+ などのスケーラブルなSDPソルバーを活用し、SOS問題を解けるSDPに自動的に変換する。
• スパarsity（スパarsity）や対称性の活用、代替の凸錐緩和法を用いて計算負担を軽減することで、スケーラビリティを向上させる。

実験結果

リサーチクエスチョン

• RQ1 軌道を直接計算せずに、和の平方（SOS）技術を用いて多項式力学系における安定性および安全性を形式的に検証する方法は何か？
• RQ2 非負のペイオフ関数をモデル化する際、ファイナンス分野におけるオプション価格設定およびリスク管理にSOS最適化をどのように応用できるか？
• RQ3 形状制約付き回帰および最適実験設計を、SOSプログラミングを用いてどのように定式化・解釈できるか？特に単調性や凸性制約を満たすように。
• RQ4 多項式ゲームにおける均衡の計算においてSOS手法が果たす役割は何か？従来のアプローチと比較するとどうなるか？
• RQ5 SOS最適化を大規模問題にスケーリングするにあたり、主な課題は何か？最近のアルゴリズム的およびソフトウェア的進展は、それらの課題をどのように克服しているか？

主な発見

• SOS技術により、和の平方多項式を用いた代数的証明を構築することで、多項式力学系における安定性、衝突回避、不変性の正式な認証が可能になる。
• 非負多項式制約を半正定値計画問題（SDP）に変換することで、閉形式解が困難な場合でも、標準的なSDPソルバーを用いて効率的に数値解を得られるようになる。
• ファイナンス分野への応用では、オプション価格設定における非負ペイオフ関数のモデル化が可能となり、SOSに基づくモーメント問題が扱いやすい近似解を提供する。
• 機械学習分野では、SOSに基づく形状制約付き回帰および最適設計問題が効率的に解かれる。これにより、推定関数の単調性や凸性が保証される。
• 多項式ゲームでは、SOSプログラミングにより、均衡条件を非負制約付きの多項式可解性問題に再定式化することで、ナッシュ均衡の計算が可能になる。
• 進展は見られるものの、SOS最適化におけるスケーラビリティは依然として主要な課題であり、多項式の次数や変数の数の増加に伴いSDPのサイズが指数関数的に増大するため、スパース、構造的、および一次ソルバー（例：SCS、SDPNAL+）の研究が促進されている。