[論文レビュー] Worst-Case Complexity of an SQP Method for Nonlinear Equality Constrained Stochastic Optimization

Frank E. Curtis, Michael J. O’Neill+1 more|arXiv (Cornell University)|Dec 29, 2021

Stochastic Gradient Optimization Techniques被引用数 4

ひとこと要約

本稿では、確率的目的関数を伴う非線形等式制約付き最適化問題に対する確率的逐次二次計画法（SQP）手法の最悪ケース複雑度解析を提示する。適応的かつ動的に更新されるマージンパラメータでさえも、高い確率で ${\cal O}(\varepsilon^{-4})$ の反復複雑度バウンドを確立している。これは、非制約的な場合の確率的勾配法と同等の性能である。

ABSTRACT

A worst-case complexity bound is proved for a sequential quadratic optimization (commonly known as SQP) algorithm that has been designed for solving optimization problems involving a stochastic objective function and deterministic nonlinear equality constraints. Barring additional terms that arise due to the adaptivity of the monotonically nonincreasing merit parameter sequence, the proved complexity bound is comparable to that known for the stochastic gradient algorithm for unconstrained nonconvex optimization. The overall complexity bound, which accounts for the adaptivity of the merit parameter sequence, shows that a result comparable to the unconstrained setting (with additional logarithmic factors) holds with high probability.

研究の動機と目的

• 確率的最適化問題に適用されるSQP法の最悪ケース反復複雑度を分析すること。この問題には、決定論的な非線形等式制約が存在する。
• 最適化の過程でマージン関数が動的に変化する適応的マージンパラメータ更新によって生じる理論的課題に対処すること。
• 従来、非制約的または単純な制約付き問題に限定されていた複雑度結果を、確率的かつ等式制約付き最適化の分野へ拡張すること。
• 適応的マージンパラメータ選択下でも、収束速度が非制約的確率的勾配法と同等の性能を示すことを示すこと、対数因子を除いて。
• 勾配推定値の確率的性質とマージンパラメータの適応的性質を同時に考慮した高確率的複雑度バウンドを提供すること。

提案手法

• 十分な減少を確保するため、マージン関数に沿ったラインサーチを用い、マージンパラメータ列を単調に非増加に適応的に更新する。
• 正確な勾配の代わりに確率的勾配推定値を用い、分散が有界であると仮定することで、大規模問題やシミュレーションベースの問題への適用を可能にする。
• 逐次二次計画法により、最適性の一次必要条件を近似する部分問題を解く。
• 目的関数の改善と制約違反のバランスを取るためにマージン関数を用い、進捗に応じてパラメータを適応的に更新する。
• 条件付き期待値と尾確率バウンドを用いた確率的近似フレームワークを活用し、適応的パラメータ更新の影響を制御する。
• 主な技術的ツールとして、勾配ステップの符号とマージンパラメータ更新に関連する3つの異なる事象を扱うための修正された補題を用い、和集合の不等式を組み合わせて高確率の結果を導出する。

実験結果

リサーチクエスチョン

• RQ1 適応的マージンパラメータ更新を伴う確率的等式制約付き最適化問題に適用したSQP法の最悪ケース反復複雑度は何か？
• RQ2 マージンパラメータが未知であり適応的に更新される場合、閾値が既知である理想化された状況と比較して、複雑度バウンドはどのように変化するか？
• RQ3 勾配推定値の確率的性質と動的マージン関数の両方がある中で、確率的SQP法の収束速度を高確率でバウンドできるか？
• RQ4 マージンパラメータ列の適応的性質が収束速度に与える影響はどの程度であり、非制約的確率的勾配法と同等のバウンドを達成できるか？
• RQ5 本研究で開発された解析的手法は、ペナルティ法、増大ラグランジュ法、内点法などの他の適応的手法へ一般化可能か？

主な発見

• 適応的SQP法の最悪ケース複雑度バウンドは、期待されるラグランジュの勾配ノルムと制約違反の両方が高確率で $\mathcal{O}(\varepsilon)$ に達するまでに ${\cal O}(\varepsilon^{-4})$ の反復数である。
• 非制約的非凸設定における確率的勾配法の複雑度バウンドと同等であり、適応的マージンパラメータ列に起因する対数因子を除いて一致する。
• 高確率的保証は、主に適応的マージンパラメータ更新の不確実性に起因しており、確率的勾配推定値自体の不確実性とは無関係である。
• 解析により、この手法がプライマル・デュアルの停留性測度を $k^{-4}$ のレートで減少させることを示した（対数項を除く）。
• 標準的な仮定、例えば確率的勾配の分散が有界であること、目的関数および制約関数のリプシッツ連続性が成り立つ限り、結果は有効である。
• 理論的フレームワークは、動的パラメータ列の一般処理を可能としているため、ペナルティ法、増大ラグランジュ法、内点法などの他の適応的手法へも容易に拡張可能である。