[논문 리뷰] The Complexity of Nonconvex-Strongly-Concave Minimax Optimization

Siqi Zhang, Junchi Yang외 3명|University of Twente Research Information|2021. 03. 29.

Sparse and Compressive Sensing Techniques참고 문헌 76인용 수 10

한 줄 요약

이 논문은 비볼록-강볼록(Nonconvex-Strongly Concave, NC-SC) 미니맥스 문제에 대해 날카러운 하한 복잡도를 확립하고, 기존의 기울기 기반 방법을 사용하여 일련의 강볼록-강볼록 하위문제를 해결하는 새로운 가속화 기법을 제안한다. 이 방법은 일반 설정에서 하한에 거의 근접하며, 유한합 설정에서 거의 날카러운 조건수(Condition Number) 의존성을 달성하여 오랫동안 알려진 상한과 하한 사이의 격차를 해결한다.

ABSTRACT

This paper studies the complexity for finding approximate stationary points of nonconvex-strongly-concave (NC-SC) smooth minimax problems, in both general and averaged smooth finite-sum settings. We establish nontrivial lower complexity bounds of $Ω(\sqrtκΔLε^{-2})$ and $Ω(n+\sqrt{nκ}ΔLε^{-2})$ for the two settings, respectively, where $κ$ is the condition number, $L$ is the smoothness constant, and $Δ$ is the initial gap. Our result reveals substantial gaps between these limits and best-known upper bounds in the literature. To close these gaps, we introduce a generic acceleration scheme that deploys existing gradient-based methods to solve a sequence of crafted strongly-convex-strongly-concave subproblems. In the general setting, the complexity of our proposed algorithm nearly matches the lower bound; in particular, it removes an additional poly-logarithmic dependence on accuracy present in previous works. In the averaged smooth finite-sum setting, our proposed algorithm improves over previous algorithms by providing a nearly-tight dependence on the condition number.

연구 동기 및 목표

• 비볼록-강볼록(Nonconvex-Strongly Concave, NC-SC) 스무스 미니맥스 문제에서 근사 정류점(Stationary Point)을 찾는 데 있어 비트리비얼한 하한 복잡도 한계를 확립하는 것.
• 일반 설정과 평균화된 스무스 유한합 설정 모두에서 기존 상한과 진정한 복잡도 한계 사이의 격차를 규명하는 것.
• 유도된 하한에 거의 근접하는 새로운 가속화 기법을 설계하여, 조건수와 정확도 의존성 측면에서 이전 알고리즘을 향상시키는 것.
• 특히 조건수와 정확도 의존성 측면에서 알려진 상한과 이론적 한계 사이의 격차를 NC-SC 미니맥스 최적화에서 해소하는 것.

제안 방법

• 비볼록 스무스 최소화 문제로의 감소를 통해 하한 복잡도 한계를 유도하여 일반 설정에서 $\tilde{\theta}(\text{polylog}(\frac{1}{\rho}))$ 의존성을 확립한다.
• 기존 기울기 기반 방법을 활용하여 설계된 강볼록-강볼록 하위문제의 일련을 해결하는 일반적인 가속화 프레임워크를 제안한다.
• x에 대한 강볼록성과 y에 대한 강볼록성(Strong Concavity)을 보장하기 위해 정규화된 미니맥스 목표함수를 포함하는 새로운 하위문제 설정을 도입한다.
• 각 하위문제에서 수렴을 가속화하기 위해 적응형 단계 크기와 모멘타와 유사한 업데이트를 사용하는 재귀적 내림차순 전략을 구현한다.
• 이중 루프 구조를 사용한다: 외부 루프는 정류점의 정확도를 제어하고, 내부 루프는 각 하위문제를 충분한 정밀도로 해결한다.
• 내부 루프에서 지수 수렴을 달성하기 위해 하위문제당 로그 수준의 반복 횟수를 적용하며, 복잡도는 조건수 및 스무스니스 파라미터에 의해 지배된다.

실험 결과

연구 질문

• RQ1 비볼록-강볼록 미니맥스 문제에서 $\\-\epsilon$-정류점을 찾는 데 있어 기본적인 복잡도 한계는 무엇인가?
• RQ2 조건수 $\kappa$ 는 NC-SC 미니맥스 문제에서 수렴 속도에 어떻게 영향을 미치는가?
• RQ3 기존 알고리즘은 $\kappa$, $\epsilon$, $n$ 에 대해 거의 최적의 의존성을 달성하도록 체계적으로 향상시킬 수 있는가?
• RQ4 NC-SC 미니맥스 최적화에서 최고의 알려진 상한과 이론적 하한 사이에 격차가 존재하는가?
• RQ5 일반 설정과 유한합 설정 모두에서 유도된 하한에 거의 근접하는 일반적인 가속화 기법을 설계할 수 있는가?

주요 결과

• 논문은 일반 설정에서 $\Omega(\sqrt{\kappa}\Delta L\epsilon^{-2})$ 의 하한 복잡도 한계를 확립하여 이전 상한과 상당한 격차가 있음을 드러낸다.
• 평균화된 스무스 유한합 설정에서는 하한 복잡도가 $\Omega(n + \sqrt{n\kappa}\Delta L\epsilon^{-2})$ 로 이전 결과보다 더 날카럽다.
• 제안된 알고리즘은 일반 설정에서 $\tilde{O}(\sqrt{\kappa}\Delta L\epsilon^{-2})$ 의 복잡도를 달성하여 하한에 거의 근접하며, 이로 인해 이전에 존재하던 $\text{polylog}(1/\epsilon)$ 요소를 제거한다.
• 유한합 설정에서는 $\tilde{O}((n + n^{3/4}\sqrt{\kappa})\Delta L\epsilon^{-2})$ 의 복잡도를 달성하여 이전 작업에 비해 조건수에 대해 거의 날카로운 의존성을 향상시킨다.
• 이 방법은 오랫동안 알려진 상한과 이론적 한계 사이의 격차를 NC-SC 미니맥스 최적화에서 해결한다.
• 가속화 기법은 일반적이며, 하위문제를 해결하기 위한 임의의 기울기 기반 방법에 적용 가능하므로 광범위하게 적용 가능하다.