[논문 리뷰] Optimal Stochastic Algorithms for Convex-Concave Saddle-Point Problems

Renbo Zhao|arXiv (Cornell University)|2019. 03. 05.

Stochastic Gradient Optimization Techniques참고 문헌 32인용 수 12

한 줄 요약

이 논문은 강력한 볼록성과 서브-가우시안 노이즈를 가진 원형 함수를 가진 볼록-볼록 사다리꼴 문제를 위한 새로운 확률적 1차 원-쌍대 알고리즘을 제안한다. 이 알고리즘은 새로운 확률적 재시작 기법을 통해 원형 함수가 강력히 볼록하고 기울기 노이즈가 서브-가우시안일 경우 최적의 오라클 복잡도를 달성한다. 이 방법은 기존의 접근 방식을 능가하며, 로그 인자까지 고려할 때 최적 또는 거의 최적의 복잡도를 달성한다.

ABSTRACT

We develop stochastic first-order primal-dual algorithms to solve a class of convex-concave saddle-point problems. When the saddle function is strongly convex in the primal variable, we develop the first stochastic restart scheme for this problem. When the gradient noises obey sub-Gaussian distributions, the oracle complexity of our restart scheme is strictly better than any of the existing methods, even in the deterministic case. Furthermore, for each problem parameter of interest, whenever the lower bound exists, the oracle complexity of our restart scheme is either optimal or nearly optimal (up to a log factor). The subroutine used in this scheme is itself a new stochastic algorithm developed for the problem where the saddle function is non-strongly convex in the primal variable. This new algorithm, which is based on the primal-dual hybrid gradient framework, achieves the state-of-the-art oracle complexity and may be of independent interest.

연구 동기 및 목표

• 원형 변수에서 강력한 볼록성을 가지는 볼록-볼록 사다리꼴 문제에 대해 효율적인 확률적 알고리즘이 부족한 문제를 해결한다.
• 기존의 결정적 및 확률적 방법을 초월하여 오라클 복잡도를 향상시키는 확률적 재시작 메커니즘을 개발한다.
• 특히 하한 값이 존재할 경우 각 문제 매개변수에 대해 최적 또는 거의 최적의 오라클 복잡도를 달성한다.
• 강력히 볼록하지 않은 원형 함수를 위한 새로운 확률적 원-쌍대 알고리즘을 설계하여 최신 기술 수준의 복잡도를 달성한다.

제안 방법

• 제안된 방법은 강력히 볼록하지 않은 경우에 대한 하위 문제로 사용되는 확률적 원-쌍대 하이브리드 기울기 프레임워크를 활용한다.
• 기울기 노이즈 특성에 따라 동적으로 알고리즘을 조정하는 새로운 확률적 재시작 기법을 도입한다.
• 이 재시작 메커니즘은 사다리꼴 함수가 원형 변수에서 강력히 볼록한 문제에 특별히 맞춤형으로 설계되어 있다.
• 서브-가우시안 기울기 노이즈 가정을 활용하여 오라클 사용에 대한 더 날카운 복잡도 한계를 유도한다.
• 적응형 스텝 사이즈와 이중 평균 기법을 통합하여 확률적 조건 하에서 수렴을 향상시킨다.
• 이론적 분석을 통해 결정적 극한 조건에서도 기존 방법보다 엄밀히 우수한 오라클 복잡도를 확보한다.

실험 결과

연구 질문

• RQ1 원형 변수에서 강력한 볼록성을 가지는 볼록-볼록 사다리꼴 문제에 대해 확률적 재시작 기법을 설계할 수 있는가?
• RQ2 서브-가우시안 노이즈 하에서 제안된 방법이 기존의 결정적 및 확률적 알고리즘보다 더 나은 오라클 복잡도를 달성하는가?
• RQ3 특히 하한 값이 존재할 경우 제안된 기법의 오라클 복잡도가 최적 또는 거의 최적인가?
• RQ4 강력히 볼록하지 않은 원형 함수를 위한 새로운 확률적 원-쌍대 알고리즘을 개발할 수 있는가? 이 알고리즘이 최신 기술 수준의 복잡도를 달성하는가?

주요 결과

• 확률적 재시작 기법은 결정적 경우조차도 기존의 모든 방법보다 엄밀히 더 나은 오라클 복잡도를 달성한다.
• 원형 함수가 강력히 볼록하고 기울기 노이즈가 서브-가우시안일 경우, 이 방법의 오라클 복잡도는 로그 인자까지 고려할 때 최적 또는 거의 최적이다.
• 강력히 볼록하지 않은 문제에 대한 하위 문제는 재시작 기법과 무관하게 최신 기술 수준의 오라클 복잡도를 달성한다.
• 확률적 기울기 노이즈 하에서 수렴 속도 측면에서 제안된 알고리즘이 이전 방법을 능가한다.
• 이론적 분석을 통해 알고리즘이 모든 관련 문제 매개변수에 대해 알려진 하한 값과 일치하거나 이를 근접하는 오라클 복잡도를 확보한다.