[論文レビュー] A Sequential Quadratic Programming Method with High Probability Complexity Bounds for Nonlinear Equality Constrained Stochastic Optimization

Albert S. Berahas, Miaolan Xie+1 more|arXiv (Cornell University)|Jan 1, 2023

Risk and Portfolio OptimizationDecision Sciences被引用数 3

ひとこと要約

本稿では、目的関数と勾配値が不正確な確率的ゼロ次および一次オラクルを介してのみアクセス可能な非線形等式制約付き確率的最適化問題に対して、段階探索順次二次計画法（SS-SQP）を提案する。妥当な仮定の下で、$ \varepsilon $-一次局所最適性を達成するための高確率的反復複雑度境界 $ O(\varepsilon^{-2}) $ を確立し、決定的SQPの性能と一致させるとともに、バイアスおよびノイズのある推定値に対してもロバストであることを示している。

ABSTRACT

A step-search sequential quadratic programming method is proposed for solving nonlinear equality constrained stochastic optimization problems. It is assumed that constraint function values and derivatives are available, but only stochastic approximations of the objective function and its associated derivatives can be computed via inexact probabilistic zeroth- and first-order oracles. Under reasonable assumptions, a high-probability bound on the iteration complexity of the algorithm to approximate first-order stationarity is derived. Numerical results on standard nonlinear optimization test problems illustrate the advantages and limitations of our proposed method.

研究の動機と目的

• 目的関数とその勾配の正確な値が得られない状況下で、非線形等式制約付き最適化問題に耐性のある最適化アルゴリズムの開発を目的とする。
• バイアスのあるオラクル推定値を含む一般の仮定のもとで、一次局所最適性への収束に関する高確率的反復複雑度境界を確立することを目的とする。
• 直接的に制約を扱い、信頼性の高い制約情報を利用しながら、ノイズのある目的関数評価を管理する点で、従来の確率的ペナルティ法および射影法を改善することを目的とする。
• 正確な制約データと確率的目的関数推定値を併用した段階探索SQPフレームワークにおける有効性を示すこと。
• 決定的SQPの複雑度と一致する理論的保証を提供し、信頼性の低い関数および勾配評価が存在する現実的な確率的設定に適用可能であることを目的とする。

提案手法

• アルゴリズムは、バックトラック中に探索方向を適応的に変更できる段階探索戦略を順次二次計画法フレームワークに組み込む。標準のラインサーチ手法とは異なり、探索方向の再調整を可能にする。
• 各反復で、正確な制約値 $ c(x) $ と $ \nabla c(x)^T $ を用いて二次部分問題を解き、一方で $ f(x) $ と $ \nabla f(x) $ については不正確な確率的オラクルに依存する。
• 不正確なオラクルは、精度と信頼性を制御するパラメータを備え、バイアスのある近似を許容する。これらは誤差分布が制御された確率変数としてモデル化される。
• ステップサイズ選択を導くためにメリット関数が用いられ、不実行性と最適性の合成測度が十分に減少することを保証する。
• ノイズのある目的関数推定値が存在する状況でも、メリット関数の十分な減少を保証するため、適応的バックトラックを組み込む。
• 理論的分析は、オラクル誤差に関する確率的境界に依拠し、ヘッセ行列の有界性や勾配のリプシッツ連続性といった標準的な正則性条件を仮定する。

実験結果

リサーチクエスチョン

• RQ1 段階探索SQP法は、目的関数と勾配の不正確な評価が存在する非線形等式制約付き確率的最適化問題において、一次局所最適性への高確率的反復複雑度境界を達成できるか？
• RQ2 関数および勾配の推定値がノイズを含む状況下で、本稿で提案するSS-SQP法と目的関数に依存しない代替手法（AS-SQP）の性能はどのように比較されるか？
• RQ3 バイアスまたはノイズのある目的関数評価は、ゼロ次情報に依存するSQP法の収束性とロバスト性にどのような影響を与えるか？
• RQ4 正確な制約情報が利用可能である場合、関数評価にのみ依存する手法と比較して、収束性が著しく向上する条件は何か？
• RQ5 現実的な確率的オラクル仮定のもとで、本稿の手法の反復複雑度は決定的SQP法と一致するか？

主な発見

• 提案されたSS-SQP法は、$ \varepsilon $-一次局所最適性に到達するための高確率的反復複雑度境界 $ O(\varepsilon^{-2}) $ を達成し、決定的SQPの複雑度と一致する。
• 数値実験の結果、目的関数のノイズが勾配のノイズに比べて小さい場合には、SS-SQPは目的関数に依存しない手法（AS-SQP）を上回り、KKT誤差と実行可能性の両面で優れた性能を示す。
• 勾配のノイズが増加するにつれて、SS-SQPとAS-SQPの性能差はさらに広がり、正確な制約情報の利点が顕著に現れる。
• 目的関数評価が非常にノイズが多い状況では、AS-SQPの性能が相対的に向上し、目的関数に依存しないアプローチのロバスト性が顕著に現れる。
• 本手法はさまざまなノイズレベルにわたり優れた性能を維持し、中程度から低レベルのノイズ条件下での優れたロバスト性と有効性を示す性能プロファイルを示している。
• 結果から、信頼性の高い目的関数情報が、特に勾配推定値にノイズやバイアスが存在する場合に収束性を顕著に向上させることを確認した。