[논문 리뷰] Hamiltonian Descent Methods

Chris J. Maddison, Daniel Paulin외 3명|arXiv (Cornell University)|2018. 09. 13.

Stochastic Gradient Optimization Techniques참고 문헌 33인용 수 40

한 줄 요약

저자들은 목적함수의 볼록 쌍에 연결된 운동에너지를 사용하여 다양한 볼록 함수들에 대해 선형 수렴을 달성하는 이산화된 컨포멀 해밀토니안 역학 기반의 일차 최적화 방법의 가족을 제시한다.

ABSTRACT

We propose a family of optimization methods that achieve linear convergence using first-order gradient information and constant step sizes on a class of convex functions much larger than the smooth and strongly convex ones. This larger class includes functions whose second derivatives may be singular or unbounded at their minima. Our methods are discretizations of conformal Hamiltonian dynamics, which generalize the classical momentum method to model the motion of a particle with non-standard kinetic energy exposed to a dissipative force and the gradient field of the function of interest. They are first-order in the sense that they require only gradient computation. Yet, crucially the kinetic gradient map can be designed to incorporate information about the convex conjugate in a fashion that allows for linear convergence on convex functions that may be non-smooth or non-strongly convex. We study in detail one implicit and two explicit methods. For one explicit method, we provide conditions under which it converges to stationary points of non-convex functions. For all, we provide conditions on the convex function and kinetic energy pair that guarantee linear convergence, and show that these conditions can be satisfied by functions with power growth. In sum, these methods expand the class of convex functions on which linear convergence is possible with first-order computation.

연구 동기 및 목표

• 일차 방법으로 선형 수렴이 달성 가능한 볼록 함수의 범위를 확장한다.
• 비스무스하거나 비강하게 볼록하지 않은 함수에 강건한 컨포멀 해밀토니안 역학의 이산화를 개발한다.
• 수렴을 조건화하기 위해 볼록 쌍으로부터 설계된 운동에너지를 활용한다.
• 이산화가 최솟값으로 선형 수렴한다는 이론적 보장과 조건을 제공한다.

제안 방법

• 상태를 (x, p)로 하고 역학식을 x' = ∇k(p), p' = -∇f(x) - γp로 하는 컨포멀 해밀토니안 시스템으로 최적화를 모델링한다.
• k(p)가 중심화된 쌍대형(conjugate) f_c^*(p)을 상한하도록 운동에너지를 선택하여 선형 수렴을 달성한다.
• 세 가지 이산화(한 가지 암시적, 두 가지 명시적)를 분석하고, 볼록한 f에 대해 선형 수렴의 조건을 확립한다.
• 특정 이산화 체계하에서 비볼록한 경우에 수렴점으로의 수렴을 보장한다.
• Lyapunov 유사 함수 V(x, p) = H(x, p) + β⟨x - x*, p⟩를 도입하고 선형 수렴률을 도출하는 경계를 유도한다.
• 꾸준한 보폭에서도 f의 꼬리/본체 동작과 일치하는 멱성장(power-growth) 운동에너지를 제시하여 고정된 보폭을 유지한다.

실험 결과

연구 질문

• RQ1 컨포멀 해밀토니안 역학의 선형 수렴을 달성하려면 f와 운동에너지 k의 짝짓기에서 어떤 조건이 필요한가?
• RQ2 연속 역학의 이산화가 선형 수렴률을 보장하기 위해 필요한 구체적 가정은 무엇이며 f와 k에 대한 조건은 무엇인가?
• RQ3 고정된 보폭의 일차 방법이 f가 비스무스하거나 비강하게 볼록하지 않아도 수렴할 수 있는가?
• RQ4 활용된 운동 맵의 구성에서 볼록 쌍대가 정하기에 최적화를 개선하는 역할은 무엇인가?

주요 결과

• 연속 시간 해밀토니안 강하는 k(p)가 f의 중심화된 쌍대의 상한을 제공할 때 선형 수렴이 달성된다.
• 세 가지 이산화(한 가지 암시적, 두 가지 명시적)는 f와 k에 대한 대응 가정 하에서 선형 수렴을 달성한다.
• 꼭짓점/본체 동작이 다른 꼬리 거동을 가진 함수에 대해 선형 수렴을 가능하게 하는 멱성장 운동에너지가 존재한다.
• 적절한 k–f 짝짓기로 오른쪽으로 조정 없이 고정된 보폭에서도 선형 수렴을 유지할 수 있다.
• V(x, p)를 이용한 Lyapunov 기반 분석은 수렴 속도를 정량화하고 수축률을 보장하는 실용적 경로를 제공한다.