[논문 리뷰] Iteration Complexity of Randomized Primal-Dual Methods for Convex-Concave Saddle Point Problems

Erfan Yazdandoost Hamedani, Afrooz Jalilzadeh외 2명|arXiv (Cornell University)|2018. 06. 11.

Stochastic Gradient Optimization Techniques참고 문헌 23인용 수 15

한 줄 요약

이 논문은 좌표별 항과 결합 항을 포함하는 복합 구조를 가진 대규모 볼록-오목 손실 함수에 대해 랜덤화된 원본-쌍대 방법을 제안한다. $\Phi$의 약한 미분 가능성 조건 하에서, 볼록 케이스에서는 $\mathcal{O}(m/k)$의 에르고딕 수렴 속도를 달성하고, 원본 함수가 균일하게 강한 볼록성을 띠는 경우 $\mathcal{O}(m/k^2)$로 향상되며, 이는 기존 방법에 비해 향상된 반복 복잡도를 보여준다.

ABSTRACT

In this paper we propose a class of randomized primal-dual methods to contend with large-scale saddle point problems defined by a convex-concave function $\mathcal{L}(\mathbf{x},y) riangleq\sum_{i=1}^m f_i(x_i)+\Phi(\mathbf{x},y)-h(y)$. We analyze the convergence rate of the proposed method under the settings of mere convexity and strong convexity in $\mathbf{x}$-variable. In particular, assuming $ abla_y\Phi(\cdot,\cdot)$ is Lipschitz and $ abla_\mathbf{x}\Phi(\cdot,y)$ is coordinate-wise Lipschitz for any fixed $y$, the ergodic sequence generated by the algorithm achieves the convergence rate of $\mathcal{O}(m/k)$ in a suitable error metric where $m$ denotes the number of coordinates for the primal variable. Furthermore, assuming that $\mathcal{L}(\cdot,y)$ is uniformly strongly convex for any $y$, and that $\Phi(\cdot,y)$ is linear in $y$, the scheme displays convergence rate of $\mathcal{O}(m/k^2)$. We implemented the proposed algorithmic framework to solve kernel matrix learning problem, and tested it against other state-of-the-art solvers.

연구 동기 및 목표

• 기계 학습 및 최적화에서 발생하는 대규모 볼록-오목 사안점 문제를 다루기 위해.
• 원본 및 쌍대 변수에 대해 분리 가능하고 결합된 항을 효과적으로 처리할 수 있는 랜덤화된 원본-쌍대 알고리즘을 개발하기 위해.
• 좌표 수 $m$과 반복 수 $k$에 따른 수렴의 반복 복잡도 한계를 설정하기 위해.
• 원본 변수에 대한 순수 볼록성과 강한 볼록성 가정 하에서의 수렴 분석을 수행하기 위해.
• 핵심 행렬 학습에서 제안된 방법을 실증적으로 검증하고 최신 솔버들과 비교하기 위해.

제안 방법

• 원본 변수 $\mathbf{x}$ 에 대해 랜덤화된 좌표 업데이트를 사용하고, 쌍대 변수 $y$ 는 기울기 스텝을 통해 업데이트한다.
• $\nabla_y\Phi(\cdot,\cdot)$ 가 리프시츠 조건을 만족하고, 고정된 $y$ 에 대해 $\nabla_\mathbf{x}\Phi(\cdot,y)$ 가 좌표별 리프시츠 조건을 만족한다고 가정한다.
• 수렴 속도를 확립하기 위해 적절한 오차 척도를 사용하여 에르고딕 반복 수열을 분석한다.
• 원본 함수가 강한 볼록성을 띠는 경우, $\Phi(\cdot,y)$ 에서 선형 결합을 활용하여 더 빠른 $\mathcal{O}(m/k^2)$ 수렴을 달성한다.
• 구조적 $\Phi$ 를 가진 사안점 문제로 포지셔닝하여 핵심 행렬 학습에 적용한다.
• 특히 $m$ 이 클 경우의 계산 비용을 줄이기 위해 랜덤화된 업데이트 방식을 도입한다.

실험 결과

연구 질문

• RQ1 분리 가능하고 결합된 항을 포함하는 볼록-오목 사안점 문제에 대해 랜덤화된 원본-쌍대 방법의 반복 복잡도는 어떻게 되는가?
• RQ2 볼록성 가정 하에서 좌표 수 $m$ 과 반복 수 $k$ 가 수렴 속도에 어떻게 영향을 미치는가?
• RQ3 원본 함수가 균일하게 강한 볼록성을 띠는 경우 더 빠른 수렴을 달성할 수 있는가?
• RQ4 $\Phi(\cdot,y)$ 의 구조가 수렴 속도에 어떤 역할을 하는가?
• RQ5 실제로 제안된 방법은 최신 솔버들과 비교해 어떻게 성능을 내는가?

주요 결과

• 순수 볼록성과 리프시츠 미분 가능성 조건 하에서, 알고리즘은 $\mathcal{O}(m/k)$ 의 에르고딕 수렴 속도를 달성한다.
• 원본 함수가 균일하게 강한 볼록성을 띠고 있으며 $\Phi(\cdot,y)$ 가 $y$ 에 대해 선형인 경우, 수렴 속도는 $\mathcal{O}(m/k^2)$ 로 향상된다.
• 수렴 속도는 좌표 수 $m$ 에 대해 명시적으로 의존하며, 문제 차원에 대한 확장성 잠재력을 보여준다.
• 기존의 서브기울기 방법에 비해 사안점 문제에 대한 반복 복잡도가 향상됨을 입증한다.
• 핵심 행렬 학습에 대한 실증 결과는 최신 솔버들과 경쟁 가능한 성능을 보여준다.
• 이론적 한계는 좌표별 미분 가능성과 강한 볼록성의 영향을 정확히 반영하며, 타당성이 높다.