[논문 리뷰] Optimal Algorithms for Stochastic Three-Composite Convex-Concave Saddle Point Problems

Renbo Zhao|arXiv (Cornell University)|2019. 03. 05.

Stochastic Gradient Optimization Techniques인용 수 5

한 줄 요약

이 논문은 삼중 복합 강凸-강연결 볼록-볼록 사 saddle-point 문제를 해결하기 위한 새로운 확률적 1차 원-쌍대 알고리즘을 제안하며, 강凸 원 변수에 대한 최초의 확률적 재시작 기법을 도입한다. 서브-가우시안 기울기 노이즈 조건 하에서, 기존 방법들보다 엄밀히 우수한 오ракูล 복잡도를 달성하며, 로그 인자까지는 알려진 하한값과 일치하거나 거의 일치한다.

ABSTRACT

We develop stochastic first-order primal-dual algorithms to solve a class of convex-concave saddle-point problems. When the saddle function is strongly convex in the primal variable, we develop the first stochastic restart scheme for this problem. When the gradient noises obey sub-Gaussian distributions, the oracle complexity of our restart scheme is strictly better than any of the existing methods, even in the deterministic case. Furthermore, for each problem parameter of interest, whenever the lower bound exists, the oracle complexity of our restart scheme is either optimal or nearly optimal (up to a log factor). The subroutine used in this scheme is itself a new stochastic algorithm developed for the problem where the saddle function is non-strongly convex in the primal variable. This new algorithm, which is based on the primal-dual hybrid gradient framework, achieves the state-of-the-art oracle complexity and may be of independent interest.

연구 동기 및 목표

• 개선된 수렴 보장을 갖는 확률적 삼중 복합 강凸-강연결 볼록-볼록 사 saddle-point 문제를 해결하는 데 도전하는 것.
• 원 성분이 강凸인 문제에 특화된 확률적 재시작 메커니즘을 개발하는 것.
• 모든 관련 문제 매개변수에 대해 로그 인자까지 최적 또는 거의 최적의 오라클 복잡도를 달성하는 것.
• 비강凸 원 문제에 대한 새로운 확률적 원-쌍대 알고리즘을 설계하여 최신 기술 수준의 복잡도를 달성하는 것.

제안 방법

• 제안된 방법은 비강凸 설정에서 사용하기 위한 하위 알고리즘으로 확률적 원-쌍대 하이브리드 기울기 프레임워크를 활용한다.
• 강凸 원 문제의 경우를 위해 새로운 확률적 재시작 기법을 도입하며, 반복적 재초기화를 활용해 수렴 속도를 가속화한다.
• 알고리즘은 문제 매개변수에 동적으로 적응하여, 로그 인자까지 날카로운 복잡도 상한을 보장한다.
• 개선된 오라클 복잡도 상한을 유도하기 위해 서브-가우시안 기울기 노이즈 가정을 사용한다.
• 안정성과 수렴성을 향상시키기 위해 원-쌍대 갱신과 분산 감소 기법을 조합한다.
• 이론적 분석을 통해 알려진 문제 클래스의 하한값과 일치하거나 거의 일치하는 복잡도 상한을 확립한다.

실험 결과

연구 질문

• RQ1 강凸 원 성분을 갖는 볼록-볼록 사 saddle-point 문제에 대해 확률적 재시작 기법을 설계할 수 있는가?
• RQ2 서브-가우시안 기울기 노이즈 조건 하에서 이러한 문제의 최적 오라클 복잡도는 무엇인가?
• RQ3 노이즈가 존재할 경우, 제안된 알고리즘은 결정론적 방법과 복잡도 측면에서 어떻게 비교되는가?
• RQ4 비강凸 케이스에 대해 최신 기술 수준의 복잡도를 달성하는 새로운 확률적 원-쌍대 알고리즘을 개발할 수 있는가?
• RQ5 제안된 방법이 알려진 이론적 하한값과 얼마나 가까이 일치하거나 도달하는가?

주요 결과

• 제안된 확률적 재시작 기법은 조건이 동일한 결정론적 설정에서도 모든 기존 방법보다 엄밀히 더 좋은 오라클 복잡도를 달성한다.
• 하한값이 존재하는 모든 문제 매개변수에 대해 오라클 복잡도는 최적 또는 로그 인자까지 최적에 가깝다.
• 비강凸 원 문제에 대한 하위 알고리즘이 그 클래스에서 최신 기술 수준의 오라클 복잡도를 달성한다.
• 서브-가우시안 기울기 노이즈 가정 하에서, 이 방법의 복잡도는 로그 인자까지 최적이다.
• 이론적 분석을 통해 알고리즘이 모든 관련 문제 영역에서 알려진 하한값과 일치하거나 거의 일치함을 확인한다.