[논문 리뷰] Accelerated Algorithms for Smooth Convex-Concave Minimax Problems with $\mathcal{O}(1/k^2)$ Rate on Squared Gradient Norm

Taeho Yoon, Ernest K. Ryu|arXiv (Cornell University)|2021. 02. 16.

Sparse and Compressive Sensing Techniques참고 문헌 85인용 수 8

한 줄 요약

이 논문은 부드러운 볼록-준연립 문제를 위한 Extra Anchored Gradient (EAG) 알고리즘을 제안하며, 제곱 그래디언트 노름에 대해 가속된 $Ó(1/k^2)$ 수렴 속도를 달성한다. 이는 최적의 속도이다. 이 방법은 Nesterov 스타일의 가속과 다름없이 외삽 그래디언트 단계와 앵커링을 조합하며, 결정론적 설정에서 최적성의 일치하는 $Ó(1/k^2)$ 하한을 증명한다.

ABSTRACT

In this work, we study the computational complexity of reducing the squared gradient magnitude for smooth minimax optimization problems. First, we present algorithms with accelerated $\mathcal{O}(1/k^2)$ last-iterate rates, faster than the existing $\mathcal{O}(1/k)$ or slower rates for extragradient, Popov, and gradient descent with anchoring. The acceleration mechanism combines extragradient steps with anchoring and is distinct from Nesterov's acceleration. We then establish optimality of the $ \mathcal{O}(1/k^2)$ rate through a matching lower bound.

연구 동기 및 목표

• 부드러운 볼록-준연립 minimax 문제에서 제곱 그래디언트 노름의 수렴 속도에 대한 이해 격차를 메우기 위해.
• 기존의 외삽 그래디언트 및 앵커링 방법보다 제곱 그래디언트 노름에서 더 빠른 수렴을 달성하는 알고리즘을 개발하기 위해.
• 부드러운 볼록-준연립 설정에서 $Ó(1/k^2)$ 속도의 최적성은 일치하는 복잡도 하한을 통해 입증하기 위해.
• 다른 비최적성 측정법(이중성 갭 대비 그래디언트 노름)은 서로 다른 가속 메커니즘을 필요로 한다는 점을 명확히 하기 위해.

제안 방법

• 외삽 그래디언트 단계와 제안된 새로운 앵커링 메커니즘을 조합하여 제곱 그래디언트 노름 수렴을 가속화하는 Extra Anchored Gradient (EAG) 알고리즘을 제안한다.
• 한 개의 반복값은 외삽 그래디언트 단계로 업데이트되고, 다른 하나는 고정된 초기값에 앵커링되어 수렴을 안정화하는 이중 반복치 시스템을 사용한다.
• 현재 반복치와 초기 반복치의 차이를 포함하는 모멘텀 유사 항과 함께 그래디언트 강하를 조합하는 재귀 관계를 유도한다.
• 제곱 그래디언트 노름과 그 감쇠 속도를 추적하는 리아푸노프 함수 분석을 통해 수렴성을 확립한다.
• 부드러운 볼록-준연립 설정에서 임의의 그래디언트 기반 알고리즘에 대해 일치하는 $Ó(1/k^2)$ 하한을 구성함으로써 최적성을 입증한다.
• 2-CLI 및 이동된 1-CLI 클래스의 맥락에서 알고리즘을 분석하여, 이러한 알고리즘 프레임워크 하에서 $Ó(1/k^2)$ 속도를 향상시킬 수 없다는 것을 보여준다.

실험 결과

연구 질문

• RQ1 부드러운 볼록-준연립 minimax 문제에서 제곱 그래디언트 노름에 대해 가속된 $Ó(1/k^2)$ 속도를 달성할 수 있는가?
• RQ2 $Ó(1/k^2)$ 속도가 최적인가, 아니면 더 빠른 수렴이 가능한가?
• RQ3 minimax 문제에서 그래디언트 노름의 가속 메커니즘은 이중성 갭의 가속 메커니즘과 어떻게 다를까?
• RQ4 평균화나 최적 반복치 추적 없이도 마지막 반복치만으로 $Ó(1/k^2)$ 속도를 달성할 수 있는가?
• RQ5 $Ó(1/k^2)$ 속도는 2-CLI 또는 이동된 1-CLI와 같은 더 넓은 알고리즘 클래스에서도 유지되는가?

주요 결과

• EAG 알고리즘은 제곱 그래디언트 노름에 대해 $Ó(1/k^2)$ 속도를 달성하며, 이는 기존 외삽 그래디언트 및 앵커링 방법의 이전 $Ó(1/k)$ 속도를 초월한다.
• 부드러운 볼록-준연립 설정에서 그래디언트 기반 알고리즘에 대해 일치하는 $Ó(1/k^2)$ 하한이 확립되었기 때문에 $Ó(1/k^2)$ 속도는 최적이다.
• EAG의 가속 메커니즘은 Nesterov의 방법과 다름없이, 초기점에 대한 앵커링과 외삽 그래디언트 단계를 조합하는 데 기반한다.
• EAG의 마지막 반복치는 평균화나 최적 반복치 추적 없이도 최적 속도를 달성하며, 이는 결정론적 설정에서의 주요 이점이다.
• 2-CLI 알고리즘으로는 $Ó(1/k^2)$ 속도를 일반화할 수 없으며, 그래디언트 노름에 대한 $Ó(1/k)$ 1-SCLI 하한은 이동된 1-CLI 알고리즘으로까지 확장되지 않아 새로운 속도의 최적성을 확인한다.
• 제곱 그래디언트 노름은 비볼록-준연립 설정에서 이중성 갭이 덜 실용적인 상황에서 의미 있고 직접 관측 가능한 비최적성 측정법임이 입증된다.