[論文レビュー] Transform the Non-linear Programming Problem to the Initial-value Problem to Solve

Sheng Zhang, Fei Liao+2 more|arXiv (Cornell University)|Apr 25, 2018

Spacecraft Dynamics and Control参考文献 34被引用数 3

ひとこと要約

本稿では、等式および不等式制約を伴う非線形計画問題を、新規の動的最適化方程式（DOE）を用いて初期値問題（IVP）に変換する動的最適化手法を提案する。リャプノフ安定性理論および行列の擬似逆行列を活用することで、制約の線形独立性を要件とせず、標準的な常微分方程式（ODE）ソルバーを用いた数値的解法が理論的保証とともに高効率に実行可能となる。

ABSTRACT

A dynamic method to solve the Non-linear Programming (NLP) problem with Equality Constraints (ECs) and Inequality Constraints (IECs) is proposed. Inspired by the Lyapunov continuous-time dynamics stability theory in the control field, the optimal solution is analogized to the stable equilibrium point of a finite-dimensional dynamic system and it is solved in an asymptotic manner. Under the premise that the Karush-Kuhn-Tucker (KKT) optimality condition exists, the Dynamic Optimization Equation (DOE), which has the same dimension to that of the optimization parameter vector, is established and its solution will converge to the optimal solution of the NLP globally with a theoretical guarantee. Using the matrix pseudo-inverse, the DOE is valid even without the linearly independent regularity requirement on the nonlinear constraints. In addition, the analytic expressions of the Lagrange multipliers and KKT multipliers, which adjoin the ECs and the IECs respectively during the entire optimization process, are also derived. Via the proposed method, the NLP may be transformed to the Initial-value Problem (IVP) to be solved, with mature Ordinary Differential Equation (ODE) integration methods. Illustrative examples are solved and it is shown that the dynamic method developed may produce the right numerical solutions with high efficiency.

研究の動機と目的

• 制約付き非線形計画問題を初期値問題に再定式化し、数値的解法を可能とする動的手法の開発。
• カーラシュ＝クーン＝タッカー（KKT）最適性条件の下で最適解へのグローバル収束を保証すること。
• 定式化において行列の擬似逆行列を用いることで、非線形制約の線形独立性の必要性を排除すること。
• 最適化プロセス全体にわたりラグランジュ乗数およびKKT乗数の解析的表現を導出すること。
• 熟練した常微分方程式積分技術を活用して、高効率な解法を実現すること。

提案手法

• パラメーターベクトルと同じ次元を持つ動的最適化方程式（DOE）を定式化し、最適解への漸近的収束を保証する。
• リャプノフ連続時間ダイナミクス安定性理論を適用し、最適解を有限次元系の安定な均衡点としてモデル化する。
• 行列の擬似逆行列を用いて非正則な制約系を扱い、線形独立性の仮定を回避する。
• 最適化軌道全体にわたり、等式制約に関連するラグランジュ乗数および不等式制約のKKT乗数の解析的表現を導出する。
• 元の非線形計画問題を、標準的なODE積分法で解ける初期値問題（IVP）に変換する。
• DOEの数値的積分を用いて、理論的収束保証のもとで最適解を計算する。

実験結果

リサーチクエスチョン

• RQ1 等式および不等式制約を伴う非線形計画問題を、数値的解法が可能な初期値問題に再定式化できるか。
• RQ2 制約の線形独立性を要件としないで、最適解へのグローバル収束をどのように保証できるか。
• RQ3 動的最適化方程式（DOE）が最適解への漸近的安定性を保証するために果たす役割は何か。
• RQ4 最適化プロセス全体にわたり、ラグランジュ乗数およびKKT乗数をどのように解析的に追跡できるか。
• RQ5 提案手法は、従来の非線形計画ソルバーと比較して、計算効率をどの程度向上させるか。

主な発見

• 提案手法は、KKT最適性条件の下で、非線形計画問題の最適解へのグローバル収束を保証する。
• 動的最適化方程式（DOE）は、リャプノフ安定性解析を通じて最適解への漸近的収束を保証する。
• 行列の擬似逆行列の使用により、制約が線形独立でない場合でも、手法が有効に機能することが保証される。
• ラグランジュ乗数およびKKT乗数の解析的表現が導出され、最適化プロセス全体にわたり維持される。
• 具体的な例題により、標準的なODEソルバーを用いて、高精度かつ高効率な数値解が得られることを示している。
• 初期値問題への変換により、複雑な非線形計画問題を解くために、確立された強固なODE積分技術が活用可能になる。