[論文レビュー] Dissipativity Theory for Nesterov's Accelerated Method

Bin Hu, Laurent Lessard|arXiv (Cornell University)|Jun 14, 2017

Advanced Optimization Algorithms Research参考文献 9被引用数 18

ひとこと要約

本稿は、Nesterovの加速手法の収束速度を証明するための、エネルギーに類似したリャプノフ関数を半定値計画法から導出する、散逸性理論の枠組みを導入する。この手法により、既知の $O(1/t^2)$ の非線形収束速度が回復され、離散的および連続的時間の両方における線形的および非線形収束に一般化可能であり、物理的に直感的で解析的に取り扱いやすい、従来の手法とは異なる代替手法を提供する。

ABSTRACT

In this paper, we adapt the control theoretic concept of dissipativity theory to provide a natural understanding of Nesterov's accelerated method. Our theory ties rigorous convergence rate analysis to the physically intuitive notion of energy dissipation. Moreover, dissipativity allows one to efficiently construct Lyapunov functions (either numerically or analytically) by solving a small semidefinite program. Using novel supply rate functions, we show how to recover known rate bounds for Nesterov's method and we generalize the approach to certify both linear and sublinear rates in a variety of settings. Finally, we link the continuous-time version of dissipativity to recent works on algorithm analysis that use discretizations of ordinary differential equations.

研究の動機と目的

• 制御理論的散逸性理論を用いて、Nesterovの加速手法に物理的に直感的でエネルギー散逸に基づく解釈を提供すること。
• リャプノフ関数の構築を簡素化するLMIに基づく枠組みを開発し、収束速度の解析的分析を可能にすること。
• 離散的および連続的時間の両設定において、線形的および非線形収束速度の分析を拡張すること。
• IQCフレームワークとODE離散化手法の間のギャップを、散逸性理論の枠組みで統一することにより埋めること。
• よりスケーラブルで解釈可能なLMI定式化を用いて、ロバストで適応可能な加速アルゴリズムの設計を可能にすること。

提案手法

• 最適化に散逸性理論を適用するため、アルゴリズムの状態と勾配入力の間のエネルギー交換を捉える供給レートを定義する。
• リャプノフ関数の存在を保証する線形行列不等式（LMI）条件を導出する。これにより収束解析が簡素化される。
• 時間依存の保存関数 $ V( heta,t) $ を用いて、システムの内部エネルギーをモデル化する。ここで $ heta $ はアルゴリズムの状態を表す。
• 小さな半定値計画問題の解法によりリャプノフ関数を構築し、数値的および解析的両方の構築を可能にする。
• Nesterovの手法に特化するため、Suら（2016）が提示したリャプノフ関数を回復する供給レートを選択する。
• LMI条件を離散時間および連続時間の両形式に適用し、$ O(1/t^2) $ の非線形収束および線形収束速度の解析を可能にする。

実験結果

リサーチクエスチョン

• RQ1 散逸性理論は、Nesterovの加速手法の解析に物理的に直感的で数学的に厳密な枠組みを提供できるか？
• RQ2 LMIに基づく散逸性条件は、リャプノフ関数の解析的構築を可能にするように簡略化できるか？
• RQ3 提案された枠組みは、離散的および連続的時間の両方において、既知の $ O(1/t^2) $ の収束速度を回復できるか？
• RQ4 散逸性アプローチは、既存のIQCおよびODE離散化手法と比較して、複雑さと一般性の面で優れているか？
• RQ5 この枠組みは、弱凸または強い凸でない目的関数の解析に拡張可能であり、ロバストなアルゴリズム設計を可能にするか？

主な発見

• 提案された散逸性枠組みは、Nesterovの手法の連続時間ODE版に用いられたリャプノフ関数を回復する。
• 散逸性のためのLMI条件は、Lessard ら（2016）のIQCベースのアプローチよりも単純で小さな半定値計画問題をもたらし、解析的解法を可能にする。
• この手法は、離散的および連続的時間の両方において、Nesterovの加速手法の $ O(1/t^2) $ 収束を証明し、既知の理論的境界と一致する。
• 強い凸性の下での線形収束分析および弱い仮定（弱凸目的関数を含む）の下での非線形収束分析へ一般化可能である。
• このアプローチにより、単一のLMIを解くことでリャプノフ関数を直接構築可能であり、収束速度の証明に体系的かつスケーラブルな手法を提供する。
• エネルギー散逸の視点は、Nesterovの手法のダイナミクスに対する直感的な物理的洞察を提供し、アルゴリズムの挙動とエネルギーの減衰を結びつける。