[논문 리뷰] On the Lower Bound of Minimizing Polyak-Łojasiewicz Functions

Pengyun Yue, Cong Fang외 1명|arXiv (Cornell University)|2022. 12. 27.

Stochastic Gradient Optimization Techniques인용 수 5

한 줄 요약

이 논문은 $L$-리프만인 폴리악-로자예프스키(PL) 함수를 최소화하기 위해 임의의 일阶 알고리즘의 그레디언트 평가 횟수에 대해 $Ω\left(\frac{L}{\mu}\log\frac{1}{\varepsilon}\right)$ 의 날카운 하한을 확립한다. 이 함수의 PL 상수는 $μ$ 이다. 이 결과는 그레디언트 디센트가 $L$-리프만인 PL 함수를 최소화하는 데 거의 최적임을 증명하며, 일반적으로 더 빠른 수렴 속도를 보장할 수 있는 일阶 방법이 존재하지 않음을 의미한다. 이는 모멘텀 기반 가속이 가능한 강력한 볼록 함수와는 대조적으로, PL 함수의 복잡도를 명확히 구분한다.

ABSTRACT

Polyak-Łojasiewicz (PL) [Polyak, 1963] condition is a weaker condition than the strong convexity but suffices to ensure a global convergence for the Gradient Descent algorithm. In this paper, we study the lower bound of algorithms using first-order oracles to find an approximate optimal solution. We show that any first-order algorithm requires at least $Ω\left(\frac{L}μ\log\frac{1}{\varepsilon} ight)$ gradient costs to find an $\varepsilon$-approximate optimal solution for a general $L$-smooth function that has an $μ$-PL constant. This result demonstrates the optimality of the Gradient Descent algorithm to minimize smooth PL functions in the sense that there exists a ``hard'' PL function such that no first-order algorithm can be faster than Gradient Descent when ignoring a numerical constant. In contrast, it is well-known that the momentum technique, e.g. [Nesterov, 2003, chap. 2] can provably accelerate Gradient Descent to ${O}\left(\sqrt{\frac{L}{\hatμ}}\log\frac{1}{\varepsilon} ight)$ gradient costs for functions that are $L$-smooth and $\hatμ$-strongly convex. Therefore, our result distinguishes the hardness of minimizing a smooth PL function and a smooth strongly convex function as the complexity of the former cannot be improved by any polynomial order in general.

연구 동기 및 목표

• 매개변수 $\mu$ 를 가진 $L$-리프만인 폴리악-로자예프스키(PL) 조건을 만족하는 함수를 최소화하기 위해 더 빠른 일阶 알고리즘이 존재하는지 여부를 규명하는 것.
• PL 함수에 대해 표준 그레디언트 디센트 수렴 속도를 넘어서 모멘텀 또는 기타 가속 기법이 성능을 향상시킬 수 있는지에 대한 이해 격차를 메우는 것.
• L-리프만인 PL 함수를 최소화할 때 $ε$-정확도를 달성하기 위해 필요한 그레디언트 평가 횟수에 대해 차원에 영향을 받지 않는 최대-최소 하한을 설정하는 것.
• 강력한 볼록 함수를 최소화하는 것과 비교해, $L$-리프만인 PL 함수를 최소화하는 데 있어 알고리즘적 난이도의 본질적 차이를 공식적으로 구분하는 것.

제안 방법

• 모든 일阶 알고리즘이 한 번에 한 좌표씩만 해결하도록 유도하는 '제로체인' 함수를 정교하게 설계한다. 이는 변수 간의 순차적 의존성을 모방한다.
• 헤시안의 재귀적 구조를 이용해 한 변수의 그레디언트 정보가 다른 변수에 미치는 영향을 최소화함으로써, 각 좌표에 대해 최적화 과정을 분리시킨다.
• 보조 변수 $\tilde{\mathbf{z}}_k$ 를 정의하고, 이들을 사용해 함수의 곡률과 PL 조건에 따라 그레디언트 노름을 아래에서 유계화한다.
• 반복 $t$ 번째 이후에 어느 좌표가 최적값으로부터 충분히 떨어져 있는지를 추적하기 위해 $\mathsf{Dominate}(k)$ 라는 지배 조건을 정의한다.
• 만약 좌표 $k$ 가 지배되지 않는다면, $ε$-정확도에 도달할 수 없음을 보여주기 위해 $ε$-정확도 이하로 함수 값 갭을 줄일 수 없음을 증명한다.
• 반복 횟수 $T$ 이후에 함수 갭을 $ε$ 이하로 줄이기 위해 최소 $Ω\left(\frac{L}{\mu}\log\frac{1}{\varepsilon}\right)$ 번의 그레디언트 호출이 필요하다는 것을 보여줌으로써 하한을 유도한다.

실험 결과

연구 질문

• RQ1 어떤 일阶 알고리즘도 $L$-리프만인 PL 함수를 최소화할 때 $O\left(\frac{L}{\mu}\log\frac{1}{\varepsilon}\right)$ 보다 더 빠른 수렴 속도를 달성할 수 있는가?
• RQ2 표준 그레디언트 디센트 알고리즘이 $L$-리프만인 PL 함수를 최소화하는 데 최적인가, 아니면 모멘텀 같은 가속 기법이 그 수렴 속도를 향상시킬 수 있는가?
• RQ3 일阶 오라클 복잡도 측면에서, $L$-리프만인 PL 함수를 최소화하는 데 드는 복잡도는 $L$-리프만인 강력한 볼록 함수를 최소화하는 것과 본질적으로 다를까?
• RQ4 모든 일阶 알고리즘이 그레디언트 디센트보다 더 빠르게 수렴할 수 있는 하드 인스턴스를 구성할 수 있는가?

주요 결과

• 모든 일阶 알고리즘은 $L$-리프만이고 $\mu$-PL 조건을 만족하는 함수의 $\varepsilon$-근사 최소화해를 찾기 위해 최소 $\Omega\left(\frac{L}{\mu}\log\frac{1}{\varepsilon}\right)$ 번의 그레디언트 평가가 필요하다.
• 이 하한은 표준 그레디언트 디센트의 수렴 속도와 정확히 일치하며, 이는 $L$-리프만인 PL 함수를 최소화하는 데 있어 그레디언트 디센트가 상수 요소를 제외하고 최적임을 증명한다.
• 이 결과는 강력한 볼록 함수에 대해 수렴 속도를 증가시키는 데 성공한 모멘텀 기반 가속이 일반적인 $L$-리프만인 PL 함수에 대해 더 빠른 다항식 수렴 속도를 달성할 수 없다는 것을 보여준다.
• 논문은 좌표를 순차적으로 해결하도록 유도하는 '제로체인' 함수를 사용해 하드 인스턴스를 구성하였으며, 이는 변수 간의 병렬적 또는 가속된 진전을 방지한다.
• 이 하한은 차원에 영향을 받지 않으며 고차원 환경에서도 성립하며, $L$-리프만이고 $\mu$-PL 조건을 만족하는 함수 클래스에 대해 최대-최소 분석을 통해 유도되었다.
• 분석은 PL 조건이 강력한 볼록성보다 더 약하지만, 여전히 일阶 방법으로는 극복할 수 없는 본질적 복잡도 장벽을 야기한다는 것을 보여준다.