[論文レビュー] Hamiltonian Descent Methods

Chris J. Maddison, Daniel Paulin+3 more|arXiv (Cornell University)|Sep 13, 2018

Stochastic Gradient Optimization Techniques参考文献 33被引用数 40

ひとこと要約

著者らは、対象関数の凸共役と結びついた動的エネルギーを用いることで、凸関数の広いクラスに対して直線収束を達成する、ディ discretized conformal Hamiltonian dynamics に基づく第一階最適化法のファミリを導入する。

ABSTRACT

We propose a family of optimization methods that achieve linear convergence using first-order gradient information and constant step sizes on a class of convex functions much larger than the smooth and strongly convex ones. This larger class includes functions whose second derivatives may be singular or unbounded at their minima. Our methods are discretizations of conformal Hamiltonian dynamics, which generalize the classical momentum method to model the motion of a particle with non-standard kinetic energy exposed to a dissipative force and the gradient field of the function of interest. They are first-order in the sense that they require only gradient computation. Yet, crucially the kinetic gradient map can be designed to incorporate information about the convex conjugate in a fashion that allows for linear convergence on convex functions that may be non-smooth or non-strongly convex. We study in detail one implicit and two explicit methods. For one explicit method, we provide conditions under which it converges to stationary points of non-convex functions. For all, we provide conditions on the convex function and kinetic energy pair that guarantee linear convergence, and show that these conditions can be satisfied by functions with power growth. In sum, these methods expand the class of convex functions on which linear convergence is possible with first-order computation.

研究の動機と目的

• 一階法で線形収束が達成可能な凸関数のクラスを拡張する。
• 非滑らかまたは非強凸関数にもロバストな、 conformal Hamiltonian dynamics の第一階ディスクリタイズを開発する。
• 収束性を安定化させるよう convex conjugate から設計された運動エネルギーを活用する。
• 離散化が最小点へ線形収束する条件と理論的保証を提供する。

提案手法

• 状態 (x, p) を持つ conformal Hamiltonian 系として最適化をモデル化し、ダイナミクスは x' = ∇k(p)、p' = -∇f(x) - γp。
• 運動エネルギー k を、k(p) が中心化された凸共役 f_c^*(p) を上界するように選択して、線形収束を達成する。
• 3つの離散化（1つは暗黙、2つは明示）を分析し、凸関数 f に対する線形収束の条件を確立する。
• 特定の離散化スキームの下で、非凸の場合にも定常点への収束を証明する。
• Lyapunov型関数 V(x, p) = H(x, p) + β⟨x - x*, p⟩ を導入し、線形収束率を得る界を導出する。
• 関数 f の尾部/本体の挙動に合わせてべき成長の運動エネルギーの族を提示し、固定ステップサイズを維持できるようにする。）

実験結果

リサーチクエスチョン

• RQ1 凸関数に対して conformal Hamiltonian dynamics が線形収束を達成できるという点で、f と運動エネルギー k のペアリングにはどのような条件があるか。
• RQ2 連続ダイナミクスの離散化が線形収束を保証するにはどうすればよく、これを保証する f および k の正確な前提は何か。
• RQ3 f が非滑らかまたは非強凸である場合、Hamiltonian descent によって導かれる固定ステップサイズの第一階法は収束するか。
• RQ4 凸結合 conjugate が、最適化の条件付けを改善する運動マップの形成においてどのような役割を果たすか。

主な発見

• 連続時間の Hamiltonian descent は、k(p) が f の中心化された凸共役を上限すると線形収束を達成する。
• 3つの離散化（1つは暗黙、2つは明示）は、f と k に対応する仮定の下で線形収束を達成する。
• 尾部/本体の挙動が異なる関数に対して線形収束を可能にするべき乗成長の運動エネルギーが存在する。
• 適切な k–f の組み合わせの下で、適応なしの固定ステップサイズを用いても線形収束を維持できる。
• V(x, p) を用いたリヤプノフ型解析は、収束率を定量化し保証する実用的な経路を提供する。