[論文レビュー] On-line Non-Convex Constrained Optimization

Olivier Massicot, Jakub Mareček|arXiv (Cornell University)|Sep 16, 2019

Advanced Bandit Algorithms Research参考文献 25被引用数 11

ひとこと要約

本稿は、時間変動する問題を常微分方程式（ODE）でモデル化し、モーメンタムに類似した正則化子を用いることで、オンライン非凸制約付き最適化の予測補正アルゴリズムを提案する。この手法は、行列逆行列を回避することで1反復あたりO(n²)の計算量で局所最適解を効率的に追跡でき、妥当な構造的仮定（実行可能性と強凸性）のもとで臨界点へのグローバル収束を証明する。

ABSTRACT

Time-varying non-convex continuous-valued non-linear constrained optimization is a fundamental problem. We study conditions wherein a momentum-like regularising term allow for the tracking of local optima by considering an ordinary differential equation (ODE). We then derive an efficient algorithm based on a predictor-corrector method, to track the ODE solution.

研究の動機と目的

• 時間変動する目的関数および制約を伴うオンライン非凸制約付き最適化における理論的・アルゴリズム的理解のギャップを埋める。
• 時間変動する非凸問題の局所最適解が連続時間ダイナミクスによって追跡可能な構造的条件を確立する。
• 行列逆行列を回避しつつ臨界点への収束を維持する、スケーラブルで低計算量の離散アルゴリズムを開発する。
• 等式制約と不等式制約の両方を許容するように仮定を緩和し、時間的滑らかさの要件（孤立した不連続性を許容）を拡張することで、先行研究を一般化する。
• リャプノフ安定性理論と非移動集合解析を用いて、臨界点の集合への収束に関する理論的保証を提供する。

提案手法

• 時間変動する非凸最適化問題を、局所最適解の追跡を安定化するモーメンタムに類似した正則化子を用いた連続時間ODEとしてモデル化する。
• 予測補正統合スキームを用いてODEを離散化し、予測は関数値および微分値に基づき、補正は制約の強制によって行われる。
• ニュートンステップを高次元空間（u, Q）に再定式化することで、行列逆行列を回避し、1反復あたりのコストをO(n³)からO(n²)に削減するアルゴリズムを設計する。
• リャプノフ安定性理論とリャプノフ・ウォンダラーズ補題を適用し、実行可能性と強凸性の仮定のもとで、軌道が臨界点の集合に収束することを証明する。
• 補助変数Qを導入した修正された連続ニュートン法を提案し、逆ヘッセ行列を近似することで、有界なフレシェ微分と適切に条件付けられた逆行列の仮定のもとでグローバル収束を保証する。
• 目的関数fをリャプノフ関数として用い、厳密な局所最小値の漸近的安定性および厳密な局所最大値の不安定性を分析する。

実験結果

リサーチクエスチョン

• RQ1 時間変動する非凸最適化問題の局所最適解が、連続時間ダイナミカルシステムによって追跡可能な条件は何か？
• RQ2 等式制約と不等式制約を併せ持つ非凸問題において、モーメンタムに類似した正則化子が局所最適解の追跡を安定化できるか？
• RQ3 行列逆行列を回避しつつ、臨界点への収束を維持するO(n²)の計算量を有する離散時間アルゴリズムを設計できるか？
• RQ4 実行可能性、強凸性、および孤立した時間的不連続性といった構造的性質が、解軌道の長期的挙動に与える影響は何か？
• RQ5 非凸設定における臨界点への収束を証明するにあたり、リャプノフ関数と非移動集合の役割は何か？

主な発見

• 実行可能性と強凸性の仮定のもとで、ODEに基づく連続ダイナミクスにより、軌道が有界に保たれ、臨界点の集合に収束することが保証される。
• リャプノフ解析により、fをリャプノフ関数として用いることで、厳密な局所最小値が漸近的に安定であり、厳密な局所最大値が不安定であることが示された。
• 予測補正アルゴリズムは、ニュートンステップの高次元空間への再定式化により、行列逆行列を回避することで1反復あたりO(n²)の計算量を達成する。
• 有界なフレシェ微分と適切に条件付けられた逆行列の仮定のもとで、Rammの定理により、良好に条件付けられた問題に対してグローバル収束が保証される。
• 目的関数および制約関数に孤立した時間的不連続性が存在しても、問題が常に実行可能かつ強凸的である限り、臨界点への収束が保証される。
• 理論的解析により、解軌道がコンactな下位集合内に留まることが確認され、エスケープジレンマ補題により、すべての正の時刻において解の存在が保証される。