[논문 리뷰] Global Convergence of Arbitrary-Block Gradient Methods for Generalized Polyak-Łojasiewicz Functions

Dominik Csiba, Peter Richtárik|arXiv (Cornell University)|2017. 09. 09.

Stochastic Gradient Optimization Techniques참고 문헌 11인용 수 15

한 줄 요약

이 논문은 비볼록 최적화 문제에 대해 임의의 블록 그래디언트 방법을 분석하기 위한 통합 프레임워크를 제안한다. 주요 기여는 블록 선택 규칙을 위한 비율 함수와 약한 폴리악-뢰자시에프(Weak Polyak-Łojasiewicz, WPL) 조건의 도입이다. 이는 부드럽고 비부드러운 경우를 포함한 광범위한 비볼록 함수 클래스에 대해 전역 수렴을 확립하며, 그레디 임의의 블록 선택과 기존 방법에 대해 새로운 수렴 속도를 단일 이론적 프레임워크 내에서 제공한다.

ABSTRACT

In this paper we introduce two novel generalizations of the theory for gradient descent type methods in the proximal setting. First, we introduce the proportion function, which we further use to analyze all known (and many new) block-selection rules for block coordinate descent methods under a single framework. This framework includes randomized methods with uniform, non-uniform or even adaptive sampling strategies, as well as deterministic methods with batch, greedy or cyclic selection rules. Second, the theory of strongly-convex optimization was recently generalized to a specific class of non-convex functions satisfying the so-called Polyak-Łojasiewicz condition. To mirror this generalization in the weakly convex case, we introduce the Weak Polyak-Łojasiewicz condition, using which we give global convergence guarantees for a class of non-convex functions previously not considered in theory. Additionally, we establish (necessarily somewhat weaker) convergence guarantees for an even larger class of non-convex functions satisfying a certain smoothness assumption only. By combining the two abovementioned generalizations we recover the state-of-the-art convergence guarantees for a large class of previously known methods and setups as special cases of our general framework. Moreover, our frameworks allows for the derivation of new guarantees for many new combinations of methods and setups, as well as a large class of novel non-convex objectives. The flexibility of our approach offers a lot of potential for future research, as a new block selection procedure will have a convergence guarantee for all objectives considered in our framework, while a new objective analyzed under our approach will have a whole fleet of block selection rules with convergence guarantees readily available.

연구 동기 및 목표

• 강력 볼록 및 PL 조건을 초월해 약한 볼록 및 비볼록 설정으로까지 그래디언트 유형 방법의 수렴 이론을 일반화하기 위해.
• 비율 함수를 사용해 랜덤, 결정적, 적응형 등 다양한 블록 선택 전략을 단일 분석 프레임워크로 통합하기 위해.
• 약한 폴리악-뢰자시에프(WPL) 조건을 만족하는 새로운 비볼록 함수 클래스에 대해 전역 수렴 보장을 수립하기 위해.
• WPL 조건과 부드러움 가정 하에 새로운 블록 선택 규칙(예: 그레디 미니배치)에 대해 새로운 수렴 속도를 유도하기 위해.
• 수렴 보장을 이식 가능하게 만들기: 새로운 블록 규칙은 프레임워크 내 모든 목적함수에 대해 보장을 상속받고, 반대로 보장은 모든 목적함수에 대해 적용 가능하게 하기 위해.

제안 방법

• 모든 알려진 및 새로운 블록 선택 규칙(균일, 비균일, 적응형, 순환, 그레디 등)을 통합적으로 분석하기 위해 비율 함수를 도입한다.
• 클래식한 PL 부등식을 약한 볼록 함수로 일반화하기 위해 약한 폴리악-뢰자시에프(WPL) 조건을 제안하며, 이는 $\|\nabla f(\mathbf{x})\| \cdot \|\mathbf{x}-\mathbf{x}^*\| \geq \sqrt{\mu} \cdot \xi(\mathbf{x})$ 로 정의된다.
• 비율 함수와 강제 함수를 기반으로 하는 일반적인 내림함수 보조정리를 도입하여 다양한 블록 규칙 하에서 수렴을 분석한다.
• WPL 조건 하에서 부드러운 및 비부드러운 문제에 대해 수렴 속도를 유도하며, 그레디 미니배치의 경우 $K \geq \frac{\xi(\mathbf{x}^0)}{\epsilon \lambda_{\min}(\mathbb{E}[\mathbf{M}_{[S]}^{-1}])} \log\left(\frac{\xi(\mathbf{x}^0)}{\epsilon}\right)$ 를 포함한다.
• 이 프레임워크를 적용하여 기존 방법(예: 랜덤, 순환, 그레디)에 대해 최상의 기존 수렴 속도를 복원하고, 이전에 분석되지 않은 방법과 목적함수의 조합에 대해 새로운 보장을 도출한다.
• 수치 실험을 통해 부드럽고 비부드러운 설정 모두에서 전역 수렴을 검증하고, WPL 조건 하에서 그래디언트 노름의 국소 수렴을 확인한다.

실험 결과

연구 질문

• RQ1 단일 분석 프레임워크를 사용해 임의의 블록 선택 규칙에 대해 블록 좌표 강하법의 수렴 이론을 통합할 수 있는가?
• RQ2 약한 폴리악-뢰자시에프 조건은 고전적 PL 조건을 초월해 더 넓은 비볼록 함수 클래스에 대해 전역 수렴 보장을 가능하게 하는가?
• RQ3 그레디 미니배치와 같은 새로운 블록 선택 전략이 엄밀하게 분석되어 경쟁 가능한 수렴 속도를 달성할 수 있는가?
• RQ4 WPL 조건 하에서 부드럽고 비부드러운 문제의 수렴 속도는 무엇이며, 기존 방법과 비교해 어떻게 다른가?
• RQ5 이 프레임워크는 수증의 증명을 다시 유도하지 않고도 새로운 블록 선택 규칙과 비볼록 목적함수의 조합에 대해 수렴 보장을 제공할 수 있는가?

주요 결과

• 약한 폴리악-뢰자시에프(WPL) 조건은 고전적 PL 부등식을 약한 볼록 함수로 일반화하며, 더 넓은 비볼록 문제 클래스에 대해 전역 수렴을 가능하게 한다.
• WPL 조건 하에서 부드러운 문제에 대해 그레디 미니배치 선택은 $K \geq \frac{\xi(\mathbf{x}^0)}{\epsilon \lambda_{\min}(\mathbb{E}[\mathbf{M}_{[S]}^{-1}])} \log\left(\frac{\xi(\mathbf{x}^0)}{\epsilon}\right)$ 의 수렴 속도를 달성하며, 이는 해당 샘플링 전략에 대해 새로운 결과이다.
• 비부드러운 문제에 대해 비율 함수는 $K \geq \frac{\xi(\mathbf{x}^0)nL_{\tau}}{\tau\epsilon} \log\left(\frac{\xi(\mathbf{x}^0)}{\epsilon}\right)$ 의 속도를 유도하며, WPL 프레임워크 하에서 새로운 수렴 보장을 제공한다.
• 이 프레임워크는 기존 방법(예: 랜덤, 순환, 그레디)에 대해 최상의 기존 수렴 속도를 특수 케이스로 포함하며, 그 일반성을 입증한다.
• 수치 실험을 통해 부드럽고 비부드러운 비볼록 문제에서 순차적 좌표 강하법의 전역 수렴이 확인되었으며, WPL 조건 하에서 그래디언트 노름의 국소 수렴도 검증되었다.
• 이론적으로는 $K$ 반복 이내에 최적성 간격 $\xi(\mathbf{x}^K) \leq \epsilon$ 이나 그래디언트 노름 $\lambda(\mathbf{x}^k) \leq \epsilon$ 이 달성됨을 보장하며, 이는 비볼록 영역에서 실용적인 수렴을 보장한다.