[논문 리뷰] A primal-dual smoothing gap reduction framework for strongly convex-generally concave saddle point problems

Le Thi Khanh Hien, Renbo Zhao외 1명|arXiv (Cornell University)|2017. 11. 10.

Stochastic Gradient Optimization Techniques참고 문헌 25인용 수 10

한 줄 요약

이 논문은 강하게 볼록-일般적으로 오목한 사 saddle 점 문제를 해결하기 위한 원시-이중 스무딩 갭 감소 프레임워크를 제안한다. 이는 결정론적 및 스토하스틱 설정 모두에서 높은 확률로 최적의 수렴 속도 $O(1/\sqrt{\varepsilon})$ 를 달성하며, 많은 구성 요소나 제약 조건을 가진 대규모 볼록 최적화 문제에 적용되어, 최적성 갭과 제약 위반에 대해 동일한 반복 복잡도를 유지한다.

ABSTRACT

In this paper, we propose a new approach for finding a saddle point of a function $\mathcal{L}(x,\lambda)$ which is strongly convex in $x$ and generally concave in $\lambda$. We prove that, in the deterministic setting, to obtain an $\varepsilon$-optimal solution, this class of algorithms achieves the convergence rate $O\left(1/{\sqrt{\varepsilon}} ight)$. In the stochastic setting, where we utilize fast first order randomized algorithms to solve the sub-problems of our framework, we prove that this class of algorithms preserves the convergence rate $O\left(1/{\sqrt{\varepsilon}} ight)$ with high probability. We then apply our general algorithm to a large-scale convex constrained optimization problem, where the objective function is strongly convex and it consists of a large number of component functions or the number of convex constraints is prodigious. We establish the overall iteration complexity $O\left(1/{\sqrt{\varepsilon}} ight)$ for the optimality gap and constraint violation.

연구 동기 및 목표

• 원시 변수에서 강하게 볼록이고 이중 변수에서 일반적으로 오목한 경우에 대해 사 saddle 점 문제를 해결하기 위한 새로운 알고리즘 프레임워크를 개발하는 것.
• 이 프레임워크의 수렴 속도를 결정론적 및 스토하스틱 설정 모두에서 확립하는 것. 특히 노이즈가 있거나 랜덤화된 부분 문제 해결 조건 하에서의 성능을 고려한다.
• 많은 구성 함수나 제약 조건을 가진 대규모 볼록 최적화 문제에 이 프레임워크를 적용하여, 효율적인 반복 복잡도를 확보하는 것.

제안 방법

• 프레임워크는 사 saddle 함수의 일반적으로 오목한 부분을 다루기 위해 스무딩 기법을 활용하여 더 다룰 수 있는 형태로 변환한다.
• 이중 반복점 간의 이중성 갭을 점진적으로 감소시키는 갭 감소 메커니즘을 도입한다.
• 스토하스틱 설정에서 부분 문제를 효율적으로 해결하기 위해 빠른 일阶 랜덤화 알고리즘을 사용하며, 수렴 보장을 유지한다.
• 원시-이중 업데이트 체계를 설계하여 원시와 이중의 진전을 균형 있게 유지하고, 약한 오목성 가정 하에서도 수렴을 보장한다.
• 원시 변수의 강한 볼록성을 활용하여 수렴 속도를 가속화하고 반복값의 안정성을 확보한다.

실험 결과

연구 질문

• RQ1 결정론적 설정에서 원시-이중 스무딩 프레임워크가 강하게 볼록-일반적으로 오목한 사 saddle 문제에 대해 $O(1/\sqrt{\varepsilon})$ 수렴을 달성할 수 있는가?
• RQ2 스토하스틱 설정에서 부분 문제를 랜덤화된 일阶 방법으로 해결할 경우, 이 프레임워크가 동일한 수렴 속도를 유지하는가?
• RQ3 많은 구성 요소나 제약 조건을 가진 대규모 볼록 최적화 문제에 적용했을 때 프레임워크의 총 반복 복잡도는 얼마인가?
• RQ4 일반적인 오목성 조건 하에서 갭 감소 메커니즘이 수렴에 어떻게 기여하는가?
• RQ5 대규모 문제에서 최적성 갭과 제약 위반이 모두 동일한 속도 $O(1/\sqrt{\varepsilon})$ 로 수렴할 수 있는가?

주요 결과

• 제안된 프레임워크는 결정론적 설정에서 $\varepsilon$-최적의 사 saddle 점을 찾는 데 $O(1/\sqrt{\varepsilon})$ 수렴 속도를 달성한다.
• 스토하스틱 설정에서는 부분 문제 해결에 빠른 일阶 랜덤화 알고리즘을 사용할 경우, 높은 확률로 $O(1/\sqrt{\varepsilon})$ 수렴 속도를 유지한다.
• 많은 구성 요소나 제약 조건을 가진 대규모 볼록 최적화 문제에서 최적성 갭과 제약 위반에 대한 총 반복 복잡도는 $O(1/\sqrt{\varepsilon})$ 이다.
• 갭 감소 메커니즘은 이중성 갭을 효과적으로 제어하여, 이중 함수가 강하게 오목하지 않더라도 수렴을 가능하게 한다.
• 프레임워크는 스토하스틱 부분 문제 해결에 대해 강건하며, 이중 함수에 대한 최소한의 가정 하에서도 이론적 수렴 보장을 유지한다.