[論文レビュー] Nonlinear Contraction Tools for Constrained Optimization

J. Soto, Slotine, Jean-Jacques E.|arXiv (Cornell University)|Jun 7, 2012

Control and Stability of Dynamical Systems参考文献 5被引用数 4

ひとこと要約

本稿は、非線形コントラクション理論と制約付き最適化を結びつける新しいフレームワークを提案する。制約接空間への系のダイナミクスの射影を通じてラグランジュ乗数を一般化することで、等式制約、不等式制約、時変制約を含む系について、コントラクションに基づく収束基準を確立する。ラグランジュパラメータの新しい物理的解釈を提示し、収束するダイナミクスを用いた最小化問題の構成的解法を提供する。

ABSTRACT

This paper describes new results linking constrained optimization theory and nonlinear contraction analysis. Generalizations of Lagrange parameters are derived based on projecting system dynamics on the tangent space of possibly time-varying constraints. The paper formalizes the intuition that, just as convexity rather than linearity is the key property in optimization, contraction rather than linearity is the key dynamical property in this context.

研究の動機と目的

• 非線形コントラクション解析と制約付き最適化の間の理論的ブリッジを確立し、線形的または凸的仮定を超えて進める。
• 特に時変制約下で、制約系のダイナミクスから自然に生じる一般化ラグランジュパラメータを導出する。
• 特に自律的かつ時変設定において、コントラクティング系を用いた制約付き最小化問題の構成的で動的なアプローチを開発する。
• 微分幾何学とコントラクション計量に裏打ちされた、ラグランジュ乗数を制約多様体への接線速度を保証するものとして、新しい物理的解釈を提供する。
• 不等式制約および時変等式制約を扱えるようにコントラクション理論を拡張し、形式的な収束定理を提示する。

提案手法

• 時変で一様正定値な計量 Θ(x,t) を用いたコントラクション解析により、軌道が一意の解に指数的収束することを保証する。
• 一般化ヤコビアン F = (Θ̇ + Θ∂f/∂x)Θ⁻¹ を導出し、コントラクションを保証するため、そのエルミート部 FH が一様負定値であることを確保する。
• 射影行列 P(x) = I - ∇h(∇h∇h′)⁻¹∇h′ を用いて、系のダイナミクスを制約の接空間に射影し、制約の満たしを強制する。
• 系が制約多様体に近づくように、動的ペナルティ項 s = ½∑cᵢhᵢ²(x) (cᵢ > 0) を導入し、バーバラットの補題により収束を保証する。
• 時変系に対してラグランジュ乗数を λ = -f(x,t)∇h′(∇h∇h′)⁻¹ として一般化し、古典的定式化を拡張する。
• 自律的勾配系 ẋ = -∇U(x) にフレームワークを適用し、恒等計量におけるコントラクションが、∇²U(x*) が正定値であれば最小値への指数的収束を示すことを示す。

実験結果

リサーチクエスチョン

• RQ1 コントラクション理論は、等式制約を伴う系にどのように拡張可能か。また、一意な解への収束を保証する条件は何か。
• RQ2 非線形で時変な系において、ラグランジュ乗数の動的解釈は何か。また、制約多様体上の接線運動とどのように関係するか。
• RQ3 制約付き最小化問題を解くために、コントラクティングな動的系を設計可能か。特に時変制約を伴う場合に有効か。
• RQ4 一般化ラグランジュパラメータは、系のダイナミクスを制約接空間に射影することからどのように生じるか。
• RQ5 非恒等計量をコントラクションフレームワークで用いる場合、最適化における収束加速にどのような影響を与えるか。

主な発見

• 等式制約を伴う非線形系に対して、一般化ヤコビアンのエルミート部が一様負定値である限り、一意の軌道への指数的収束を保証するコントラクション定理を確立した。
• 自律的勾配系 ẋ = -∇U(x) に対して、恒等計量におけるコントラクションが、∇²U(x*) が正定値であれば最小値への指数的収束を示す。
• 動的ペナルティ s = ½∑cᵢhᵢ²(x) を有する系は、t → ∞ のとき ∑cᵢhᵢ∇hᵢ → 0 となることを保証し、バーバラットの補題により制約の満たしを示す。
• 時変系における一般化ラグランジュ乗数として、λ = -[f(x,t)∇h′ + ∂h/∂t](∇h∇h′)⁻¹ を導出し、他の二つのケースを包含する。
• 本稿は、ラグランジュ乗数が制約多様体への法線速度ではなく、接線速度を保証することを新たな物理的解釈として提供する。
• 制約付き最小化問題を解くための構成的アルゴリズムを可能にする。時変制約を伴う最適化をコントラクティングな動的系に埋め込むことで実現する。