[논문 리뷰] Efficient Algorithms for Smooth Minimax Optimization

Kiran Koshy Thekumparampil, Prateek Jain외 2명|arXiv (Cornell University)|2019. 07. 02.

Sparse and Compressive Sensing Techniques인용 수 53

한 줄 요약

이 논문은 거울-프락스(Mirror-Prox)와 네스테로프의 가속화 경사하강법(AGD)을 조합하여 매끄럽고 최소최대 최적화 문제에 대해 효율적인 제1종 알고리즘을 제안한다. 강凸성 조건이 만족될 경우 $g(\cdot,y)$에 대해 전역 수렴 속도 $\widetilde{O}(1/k^2)$를 달성하며, 비강凸성 조건이 성립할 경우 비정확한 보조점 방법(inexact proximal point method)을 통해 $\widetilde{O}(1/k^{1/3})$의 수렴 속도를 확보한다. 이는 이전의 수렴 속도보다 크게 향상된 결과이다.

ABSTRACT

This paper studies first order methods for solving smooth minimax optimization problems $\min_x \max_y g(x,y)$ where $g(\cdot,\cdot)$ is smooth and $g(x,\cdot)$ is concave for each $x$. In terms of $g(\cdot,y)$, we consider two settings -- strongly convex and nonconvex -- and improve upon the best known rates in both. For strongly-convex $g(\cdot, y), \forall y$, we propose a new direct optimal algorithm combining Mirror-Prox and Nesterov's AGD, and show that it can find global optimum in $\widetilde{O}\left(1/k^2 ight)$ iterations, improving over current state-of-the-art rate of $O(1/k)$. We use this result along with an inexact proximal point method to provide $\widetilde{O}\left(1/k^{1/3} ight)$ rate for finding stationary points in the nonconvex setting where $g(\cdot, y)$ can be nonconvex. This improves over current best-known rate of $O(1/k^{1/5})$. Finally, we instantiate our result for finite nonconvex minimax problems, i.e., $\min_x \max_{1\leq i\leq m} f_i(x)$, with nonconvex $f_i(\cdot)$, to obtain convergence rate of $O(m^{1/3}\sqrt{\log m}/k^{1/3})$.

연구 동기 및 목표

• 매끄럽고 $g(x,\cdot)$가 준연속인 최소최대 문제 $\min_x \max_y g(x,y)$에 대해 더 빠른 제1종 방법을 개발한다.
• 모든 $y$에 대해 $g(\cdot,y)$가 강凸일 경우의 수렴 속도를 향상시킨다.
• $g(\cdot,y)$가 비강凸일 수 있는 비강凸 설정으로 개선된 속도를 확장한다.
• 비강凸성 $f_i$를 가진 유한 최소최대 문제 $\min_x \max_{1\leq i\leq m} f_i(x)$에 대해 결과를 적용한다.

제안 방법

• 강凸성 조건이 만족되는 $g(\cdot,y)$에 대해 거울-프락스와 네스테로프의 AGD를 융합한 새로운 직접적 최적 알고리즘을 제안한다.
• 비강凸성 조건이 성립하는 $g(\cdot,y)$를 다루기 위해 제안된 알고리즘을 비정확한 보조점 방법의 서브루틴으로 사용한다.
• 가속화와 거울 강하 원리를 활용하여 강凸성 설정에서 $\widetilde{O}(1/k^2)$의 수렴 속도를 확립한다.
• 비정확한 보조점 프레임워크 내에서 정밀한 오차 제어를 통해 비강凸 설정에서 정류점(stationary points)을 찾는 데 $\widetilde{O}(1/k^{1/3})$의 속도를 유도한다.
• 유한 최소최대 문제 $\min_x \max_{1\leq i\leq m} f_i(x)$에 일반 프레임워크를 적용하여 $O(m^{1/3}\sqrt{\log m}/k^{1/3})$의 속도를 도출한다.
• 수렴 속도의 날카운 복잡도 한계를 유도하기 위해 $g(x,\cdot)$에 대한 매끄럽고 준연속성 가정과 $g(\cdot,y)$에 대한 볼록성 가정을 활용한다.

실험 결과

연구 질문

• RQ1 모든 $y$에 대해 $g(\cdot,y)$가 강凸일 경우, $O(1/k)$보다 더 빠른 수렴 속도를 확보할 수 있는가?
• RQ2 비강凸 최적화에서의 가속화 기법을 최소최대 설정으로 확장하여 더 빠른 수렴 속도를 달성할 수 있는가?
• RQ3 비강凸 매끄럽고 최소최대 최적화 문제에서 정류점을 찾는 데 최적의 수렴 속도는 무엇인가?
• RQ4 비강凸 성분을 가진 유한 최소최대 문제에서, 수치 $m$의 증가에 따라 제안된 방법의 스케일링 특성은 어떻게 되는가?

주요 결과

• 제안된 알고리즘은 강凸성 조건이 만족되는 매끄럽고 최소최대 최적화 문제에서 $\widetilde{O}(1/k^2)$의 전역 수렴 속도를 달성하여 이전의 $O(1/k)$ 속도보다 향상되었다.
• 제안된 알고리즘을 비정확한 보조점 방법에 통합함으로써 비강凸 설정에서 정류점을 찾는 데 $\widetilde{O}(1/k^{1/3})$의 속도를 확보하였으며, 이는 이전의 $O(1/k^{1/5})$ 속도보다 크게 향상된 결과이다.
• 비강凸 성분을 가진 유한 최소최대 문제 $\min_x \max_{1\leq i\leq m} f_i(x)$에 대해 $O(m^{1/3}\sqrt{\log m}/k^{1/3})$의 수렴 속도를 달성하였다.
• 결과는 비강凸 최적화에서의 가속화 기법이 매끄럽고 준연속성 조건 하에서 최소최대 설정으로 효과적으로 적용될 수 있음을 보여준다.
• 비정확한 보조점 반복 과정에서의 근사 오차 균형 조절을 철저히 함으로써 분석을 통해 날카운 복잡도 한계를 확립하였다.