[논문 리뷰] A geometric integration approach to smooth optimisation: Foundations of the discrete gradient method

Matthias J. Ehrhardt, Erlend S. Riis외 2명|arXiv (Cornell University)|2018. 05. 16.

Advanced Optimization Algorithms Research참고 문헌 45인용 수 15

한 줄 요약

이 논문은 이산 그래디언트 방법을 사용하여 부드러운 최적화를 위한 기하적 통합 프레임워크를 수립하며, 잘 정의됨, 수렴 속도 및 강건성에 대해 증명한다. 볼록 목적 함수에 대해 O(1/k) 수렴을 보이며, Polyak–Łojasiewicz 조건 하에서 선형 수렴을 보이며, 세 가지 이산 그래디언트와 확률적 변형에 대해 이론적 및 수치적 검증을 수행한다.

ABSTRACT

Discrete gradient methods are geometric integration techniques that can preserve the dissipative structure of gradient flows. Due to the monotonic decay of the function values, they are well suited for general convex and nonconvex optimisation problems. Both zero- and first-order algorithms can be derived from the discrete gradient method by selecting different discrete gradients. In this paper, we present a thorough analysis of the discrete gradient method for optimisation which provides a solid theoretical foundation. We show that the discrete gradient method is well-posed by proving the existence of iterates for any positive time step, as well as uniqueness in some cases, and propose an efficient method for solving the associated discrete gradient equation. Moreover, we establish an $O(1/k)$ convergence rate for convex objectives and prove linear convergence if instead the Polyak-Lojasiewicz inequality is satisfied. The analysis is carried out for three discrete gradients-the Gonzalez discrete gradient, the mean value discrete gradient, and the Itoh-Abe discrete gradient, as well as for a randomised Itoh-Abe method. Our theoretical results are illustrated with a variety of numerical experiments, and we furthermore demonstrate that the methods are robust with respect to stiffness.

연구 동기 및 목표

• 이산 그래디언트 방법의 부드러운 최적화에서 엄밀한 이론적 기초를 제공하여, 그 수렴성과 안정성에 대한 이해 격차를 메운다.
• 모든 양의 시간 단계에 대해 이산 그래디언트 업데이트 방정식의 잘 정의됨을 증명하여 반복의 존재성과 유일성을 보장한다.
• 다양한 이산 그래디언트 형식에 대해 수렴 속도—볼록 목적 함수에 대해 O(1/k), Polyak–Łojasiewicz 조건 하에서 선형 수렴—를 확립한다.
• 경직성에 대한 강건성과 도함수 기반 및 도함수 없는 최적화 모두에의 적용 가능성을 보여준다.
• 기존의 순환 좌표 강하와 같은 방법들과 이론적 수렴 속도를 비교하여 개선된 경계를 보여준다.

제안 방법

• 이산 그래디언트 방법은 암시적 업데이트로 공식화된다: $ x^{k+1} = x^k - \tau_k \overline{\nabla}V(x^k, x^{k+1}) $, 소산 구조를 유지한다.
• 세 가지 이산 그래디언트가 분석된다: Gonzalez, 평균값, Itoh–Abe, 각각 평균값 성질과 일致성 성질를 만족한다.
• 확률적 Itoh–Abe 변형이 도입되어, 미분 가능하지 않거나 블랙박스 문제에 대한 도함수 없는 최적화를 가능하게 한다.
• 수축 사상 증명을 통해 잘 정의됨이 입증되며, 모든 $ \tau_k > 0 $ 에 대해 반복의 존재성과 유일성을 보장한다.
• 수렴 분석은 에너지 감소 부등식과 리아푸노프 함수에 기반하며, 리프시츠 연속성과 강한 볼록성 가정을 통해 경계가 유도된다.
• 이산 그래디언트 방정식의 효율적 해법이 제안되어 수치적 안정성과 실용적 구현 가능성을 확보한다.

실험 결과

연구 질문

• RQ1 이산 그래디언트 방법은 양의 시간 단계에 대해 유일한 해를 갖는가? 이는 잘 정의됨을 보장한다.
• RQ2 볼록 및 비볼록 설정 하에서 이산 그래디언트 방법의 수렴 속도는 어떤가?
• RQ3 Itoh–Abe 이산 그래디언트의 수렴 속도는 순환 좌표 강하와 비교해 어떻게 되는가?
• RQ4 이산 그래디언트 방법은 경직성 최적화 문제에 대해 안정성과 수렴성을 유지할 수 있는가?
• RQ5 확률적 Itoh–Abe 방법의 이론적 성능은 도함수 없는 최적화에서 어떻게 되는가?

주요 결과

• 이산 그래디언트 방법은 잘 정의됨: 모든 $ \tau_k > 0 $ 에 대해 업데이트 방정식이 유일한 해를 가지며, 수치적 신뢰성을 보장한다.
• 볼록 목적 함수에 대해 이 방법은 O(1/k) 수렴 속도를 달성하며, 기존의 최적 수렴 속도와 일치한다.
• Polyak–Łojasiewicz 부등식 하에서 이 방법은 선형 수렴을 보이며, 속도 매개변수 $ \beta = 4\overline{L}_{\text{sum}} \leq 4\sqrt{n}L $ 이다.
• 최적화된 경우, 확률적 Itoh–Abe 방법은 순환 좌표 강하와 유사한 수렴 속도를 보이며, $ \beta \approx 4\sqrt{n}L $ 이다.
• 수치 실험을 통해 경직성에 대한 강건성이 확인되었으며, 악조건 문제에서도 안정적인 수렴을 보였다.
• 이론적 분석을 통해 최적의 매개변수 조정 하에서 Itoh–Abe 이산 그래디언트는 표준 좌표 강하보다 수렴 속도 경계에서 뛰어난 성능을 보였다.