[논문 리뷰] Complexity Lower Bounds for Nonconvex-Strongly-Concave Min-Max Optimization

Haochuan Li, Yi Tian외 2명|arXiv (Cornell University)|2021. 04. 18.

Stochastic Gradient Optimization Techniques참고 문헌 49인용 수 10

한 줄 요약

이 논문은 비볼록-강볼록 최소화-최대화 최적화 문제에 대해 첫 번째로 날카운 첫째 단계 오ракูล 복잡도 하한을 확립하며, 결정론적 알고리즘은 $Ω(\sqrt{\kappa}\epsilon^{-2})$ 쿼리를 필요로 하고, 확률적 알고리즘은 $Ω(\sqrt{\kappa}\epsilon^{-2} + \kappa^{1/3}\epsilon^{-4})$ 쿼리를 필요로 함을 증명한다. 이 결과들은 Lin 등(2020b)의 상한이 로그 인자까지 최적임을 보여주며, 조건 수 의존성 측면에서 확률적 설정에서 상한과 하한 사이에 여전히 큰 격차가 존재함을 드러낸다.

ABSTRACT

We provide a first-order oracle complexity lower bound for finding stationary points of min-max optimization problems where the objective function is smooth, nonconvex in the minimization variable, and strongly concave in the maximization variable. We establish a lower bound of $Ω\left(\sqrtκε^{-2} ight)$ for deterministic oracles, where $ε$ defines the level of approximate stationarity and $κ$ is the condition number. Our analysis shows that the upper bound achieved in (Lin et al., 2020b) is optimal in the $ε$ and $κ$ dependence up to logarithmic factors. For stochastic oracles, we provide a lower bound of $Ω\left(\sqrtκε^{-2} + κ^{1/3}ε^{-4} ight)$. It suggests that there is a significant gap between the upper bound $\mathcal{O}(κ^3 ε^{-4})$ in (Lin et al., 2020a) and our lower bound in the condition number dependence.

연구 동기 및 목표

• 비볼록-강볼록 최소화-최대화 문제에서 근사 정적 점을 찾는 데 필요한 오라클 복잡도에 대해 처음으로 증명 가능한 하한을 확립하는 것.
• 문헌에 기록된 기존 상한이 정확도 파라미터 $\epsilon$ 및 조건 수 $\kappa$ 의존성 측면에서 최적인지 여부를 규명하는 것.
• 특히 $\kappa$-의존성 측면에서 알려진 상한과 새로운 하한 사이의 격차를 확률적 오라클 설정에서 분석하는 것.
• 모든 제1차원 영점 존중 알고리즘이 최소한의 쿼리 수를 초래하도록 강제하는 명시적 하드 인스턴스를 구성하는 것.

제안 방법

• 비볼록성은 $\bm{x}$ 에서, 강볼록성은 $\bm{y}$ 에서 갖는, 유한한 초입방체 영역에서 정의된 철저히 설계된 하드 인스턴스 $\bar{f}^{\text{nc-sc}}$ 를 구성한다. 이는 기울기 유계성을 보장한다.
• 최악의 경우에 $\epsilon$-정적 점을 찾기 위해 필요한 쿼리 수를 분석하기 위해 영점 존중 오라클 프레임워크를 사용한다.
• 확률적 오라클을 모델링하기 위해 확률 $p$ 의 영점 체인 구조를 적용하여, 유계 분산을 유지하면서도 하드 인스턴스의 구조를 유지한다.
• 모순을 통한 하한 유도: 만약 알고리즘이 유도된 하한보다 더 잘 작동한다면, 하드 인스턴스의 구조를 위반하게 된다.
• 유계 분산을 유지하기 위해 필요한 샘플링 확률 $p$ 를 분석하여 결정론적 하한을 확률적 케이스로 확장한다.
• Lin 등(2020b)의 상한과 로그 인자까지 일치하는 것을 증명함으로써 결정론적 하한 $\Omega(\sqrt{\kappa}\epsilon^{-2})$ 가 최적임을 입증한다.

실험 결과

연구 질문

• RQ1 Lin 등(2020b)에서 제시한 $\tilde{\mathcal{O}}(\sqrt{\kappa}\epsilon^{-2})$ 상한이 비볼록-강볼록 최소화-최대화 문제에서 제1차원 결정론적 알고리즘에 대해 최적인가?
• RQ2 이 유형의 문제에 대해 확률적 오라클 복잡도에 대해 가장 날카운 하한은 무엇인가?
• RQ3 Lin 등(2020a)에서 제시한 확률적 설정에서의 $\mathcal{O}(\kappa^3\epsilon^{-4})$ 상한이 최적의 $\kappa$-의존성을 갖는가?
• RQ4 영점 존중 알고리즘을 초월하여 임의의(가능한 랜덤화된) 알고리즘으로 하한을 확장할 수 있는가?
• RQ5 더 일반적인 비볼록-볼록 또는 비볼록-비볼록 설정에서의 날카운 복잡도 하한은 무엇인가?

주요 결과

• 결정론적 오라클 복잡도 하한은 $\Omega(\sqrt{\kappa}\epsilon^{-2})$ 이며, Lin 등(2020b)의 상한과 로그 인자까지 일치한다.
• 확률적 설정에서는 하한이 $\Omega(\sqrt{\kappa}\epsilon^{-2} + \kappa^{1/3}\epsilon^{-4})$ 로서 결정론적 경우보다 엄밀히 크다.
• Lin 등(2020a)에서의 상한 $\mathcal{O}(\kappa^3\epsilon^{-4})$ 와 하한 $\Omega(\kappa^{1/3}\epsilon^{-4})$ 사이의 격차는 상한의 조건 수 의존성이 최적적이지 않음을 시사한다.
• 하드 인스턴스 구성은 영역 전체에서 기울기 노름이 균일하게 유계임을 보장하여, 비볼록성과 강볼록성에도 불구하고 유효한 복잡도 분석을 가능하게 한다.
• 확률적 하한은 유계 분산을 유지하기 위해 필요한 샘플링 확률 $p$ 를 분석함으로써 유도되며, 이로 인해 $\Omega(\kappa^{1/3}\epsilon^{-4})$ 항이 유도된다.
• 결과적으로 Lin 등(2020b)의 기존 알고리즘이 결정론적 설정에서 거의 최적임을 시사하며, Lin 등(2020a)의 확률적 알고리즘은 $\kappa$-의존성 측면에서 향후 개선의 여지가 있음을 시사한다.