[論文レビュー] A hierarchy of spectral relaxations for polynomial optimization

Ngoc Hoang Anh Mai, Victor Magron+1 more|arXiv (Cornell University)|Jul 17, 2020

Advanced Optimization Algorithms Research被引用数 4

ひとこと要約

本稿では、多項式最適化問題を球面上に再定式化することにより、半正定値緩和における定数トレース性（CTP）を活用できる階層的スペクトル緩和法を提案する。内点法の代わりに、行列ペンシルの最大固有値を特化したスペクトル法で最小化することで、中規模問題においてより高い計算効率でグローバル最適解に収束する。

ABSTRACT

We show that (i) any constrained polynomial optimization problem (POP) has an equivalent formulation on a variety contained in an Euclidean sphere and (ii) the resulting semidefinite relaxations in the moment-SOS hierarchy have the constant trace property (CTP) for the involved matrices. We then exploit the CTP to avoid solving the semidefinite relaxations via interior-point methods and rather use ad-hoc spectral methods that minimize the largest eigenvalue of a matrix pencil. Convergence to the optimal value of the semidefinite relaxation is guaranteed. As a result we obtain a hierarchy of nonsmooth "spectral relaxations" of the initial POP. Efficiency and robustness of this spectral hierarchy is tested against several equality constrained POPs on a sphere as well as on a sample of randomly generated quadratically constrained quadratic problems (QCQPs).

研究の動機と目的

• 内点法によるモーメント-SOS階層における半正定値緩和の高い計算コストを低減すること。
• 多項式最適化問題（POPs）に由来する半正定値緩和における定数トレース性（CTP）を活用すること。
• 行列ペンシルの最大固有値を最小化するスペクトル法を用いて、内点法の代替としてスケーラブルな手法を開発すること。
• 球面および球体上での制約付き多項式最適化において、グローバル最適解への収束を保証するとともに、計算負荷を軽減すること。
• 等式制約付きPOPおよびランダムに生成されたQCQPsに対して、提案されたスペクトル階層の効率性とロバスト性を検証すること。

提案手法

• 任意の基本的コンパクトな代数的半代数的集合上の制約付きPOPを、ユークリッド球面に含まれる多様体上での等価問題に再定式化する。
• 得られたモーメント-SOS緩和が定数トレース性（CTP）を継承することを示し、固有値に基づく解法が可能になる。
• 標準的な内点法の代わりに、対称行列ペンシルの最大固有値を最小化する特化したスペクトル法を採用する。
• CTPに基づくSDPの双対形式を用いて、問題を最大固有値の最小化に還元し、一階微分法またはバンドル法に適した形に変換する。
• 有限記憶バンドル法（LMBM）を用いて、非滑らかかつ非凸な固有値最小化問題を解き、グローバル収束の保証を得る。
• モーメント緩和をトレース制約付きの標準SDP形式に変換し、効率的な実装と数値的テストを可能にする。

実験結果

リサーチクエスチョン

• RQ1 制約付き多項式最適化問題は、球面上に再定式化可能であり、その半正定値緩和において定数トレース性（CTP）を有効に活用できるか？
• RQ2 定数トレース性（CTP）を活用することで、収束を損なわずに、半正定値緩和の解法がより高速かつスケーラブルに可能になるか？
• RQ3 最大固有値の最小化に基づくスペクトル法は、中規模のPOPにおいて内点法を上回る計算効率を達成できるか？
• RQ4 等式制約付きQCQPsおよび単位球面・球体上でのランダムに生成された四次問題に対して、提案されたスペクトル階層はどれほどロバストで効率的か？
• RQ5 CTPは、モーメント行列の構造および得られる緩和の数値的安定性にどのような影響を与えるか？

主な発見

• 任意の制約付き多項式最適化問題は、ユークリッド球面内の多様体上に等価に再定式化可能であり、グローバル最適解が保持される。
• 再定式化された問題に対する得られるモーメント-SOS緩和は、定数トレース性（CTP）を有し、固有値に基づく解法が可能になる。
• 提案されたスペクトル階層は、元のPOPのグローバル最適解に収束し、モーメント-SOS階層の性質によって収束が保証される。
• 数値実験の結果、単位球面上の等式制約付きQCQPsにおいて、スペクトル法は内点ソルバーよりも計算時間とスケーラビリティに優れる。
• 単位球体上にランダムに生成された密度の高いQCQPsに対しては、スペクトルアプローチが、メモリ使用量の削減とより速い収束を示し、標準的なSDPソルバーに比べてロバストな性能を発揮する。
• 一般的なインスタンスにおいて有限収束を達成し、既知のモーメント-SOS階層の有限収束性と整合的でありながら、内点法の高コストを回避する。