[論文レビュー] On Symplectic Optimization

Michael Betancourt, Michael I. Jordan+1 more|arXiv (Cornell University)|Feb 10, 2018

Model Reduction and Neural Networks参考文献 10被引用数 41

ひとこと要約

この論文は、シンプレクティック積分を介してブレグマンダイナミクスを離散化する principled なパイプラインを開発し、オラクル速度の収束と従来の離散化に対する安定性の利点を備えた加速勾配法を生み出します。

ABSTRACT

Accelerated gradient methods have had significant impact in machine learning -- in particular the theoretical side of machine learning -- due to their ability to achieve oracle lower bounds. But their heuristic construction has hindered their full integration into the practical machine-learning algorithmic toolbox, and has limited their scope. In this paper we build on recent work which casts acceleration as a phenomenon best explained in continuous time, and we augment that picture by providing a systematic methodology for converting continuous-time dynamics into discrete-time algorithms while retaining oracle rates. Our framework is based on ideas from Hamiltonian dynamical systems and symplectic integration. These ideas have had major impact in many areas in applied mathematics, but have not yet been seen to have a relationship with optimization.

研究の動機と目的

• 最適化における加速の動機付けと、それと連続時間ダイナミクスとの関連付け。
• オラクルレートを保持しつつ、連続時間の加速を離散化する体系的な方法を提供する。
• ハミルトン体系とシンプレクティック積分を活用して、生成的最適化フレームワークを導出する。
• 連続時間の加速を模倣する実用的で安定な離散化を提供する。
• 多様体設定と確率的目的関数に対する拡張と含意を探る。

提案手法

• 最適化を、時間変化する運動エネルギーとポテンシャルエネルギーを持つ Bregman ラグランジアン系としてモデル化する。
• レジャンドル変換を行い、Bregman ハミルトニアンを得て、それを自律的な拡張系にリフトする。
• ハミルトニアン分割により対称な拡張リープフロッグ積分子を構築して対称性を保持する。
• 自律的で構造を保持する積分を可能にするため、時間拡張相空間を適用する。
• 具体的な更新式を導出し、一般化されたNesterov離散化と比較する。
• 必要に応じて勾配流項を付与して、最小近傍での指数収束を分析する。

実験結果

リサーチクエスチョン

• RQ1 連続時間の加速ダイナミクスを、離散時間アルゴリズムでオラクルレート収束を保持するように離散化するにはどうすればよいか？
• RQ2 拡張ハミルトニアンフレームワークを介したシンプレクティック積分は、安定で効率的な加速最適化手法を生み出せるか？
• RQ3 シンプレクティック最適化と既存の離散時間加速法（例：一般化されたNesterov離散化）との性能と安定性のトレードオフは何か？

主な発見

• シンプレクティック最適化は、対象の問題に対して一般化されたNesterov離散化と同等の収束率を達成する（実験ではおおよそ O(t^-2.95)）。
• 拡張リープフロッグ積分は力学的対称性を保持し、他のいくつかの離散化より大きな安定ステップサイズを許容して、反復回数と計算量を削減する。
• シンプレクティック手法は、離散時間オラクルレートを満たす一方で、報告された設定では1回の反復あたりの勾配評価回数が少なくて済む。
• 勾配流項を取り入れると、二次目的関数の最小付近で指数収束を回復できるが、基礎となるハミルトニアンの対称性は変化する。
• 確率的目的関数はシンプレクティック法に対して異なる影響を与える可能性があり、逆誤差・ダイナミクスの観点からのさらなる分析を促す。