[논문 리뷰] A Primal-Dual Algorithm for General Convex-Concave Saddle Point Problems

Erfan Yazdandoost Hamedani, Necdet Serhat Aybat|arXiv (Cornell University)|2018. 03. 04.

Sparse and Compressive Sensing Techniques참고 문헌 26인용 수 46

한 줄 요약

이 논문은 일반적인 볼록-볼록 사 saddle 점 문제에 대해 비이차형 결합 항 $Φ(x,y)$ 를 가진 프리미벌-듀얼 알고리즘을 제안하며, 볼록 함수 $f$ 에서는 $Ó(1/k)$ 수렴 속도를, $f$ 가 강한 볼록이고 $Ø(x,\cdot)$ 가 $y$ 에 대해 선형인 경우 $Ó(1/k^2)$ 수렴 속도를 달성한다. 이는 이전의 이차형 결합에 국한된 연구를 초월한다. 알고리즘은 커널 행렬 학습에서 검증되었으며, 미러-프록스 및 내부점 방법보다 뛰어난 성능을 보였다.

ABSTRACT

In this paper we propose a primal-dual algorithm with a momentum term that can be viewed as a generalization of the method proposed by Chambolle and Pock in 2016 to solve saddle point problems defined by a convex-concave function $\mathcal{L}(x,y)=f(x)+\Phi(x,y)-h(y)$ with a general coupling term $\Phi(x,y)$ that is not assumed to be bilinear. Given a saddle point $(x^*,y^*)$, assuming $ abla_y\Phi(\cdot,\cdot)$ is Lipschitz and $ abla_x\Phi(\cdot,y)$ is Lipschitz in $x$ for any fixed $y$, we derive error bounds in terms of $\mathcal{L}(\bar{x}_k,x^*)-\mathcal{L}(y^*,\bar{y}_k)$ for the ergodic sequence $\{\bar{x}_k,\bar{y}_k\}$; in particular, we show $\mathcal{O}(1/k)$ rate that when the problem is merely convex in $x$. Furthermore, assuming $\Phi(x,\cdot)$ is linear in $y$ for each fixed $x$ and $f$ is strongly convex, we can obtain the ergodic convergence rate of $\mathcal{O}(1/k^2)$ - we are not aware of any other work in the related literature showing $\mathcal{O}(1/k^2)$ rate when $\Phi$ is not bilinear. We tested our method for solving kernel matrix learning problem, and compare it against the Mirror-prox algorithm and interior point methods.

연구 동기 및 목표

• 볼록-볼록 사 saddle 점 문제에서 기존 방법을 이차형 결합 항을 초월하여 일반화하는 프리미벌-듀얼 알고리즘을 개발하는 것.
• 결합 함수 $Φ(x,y)$ 에 대한 일반적인 가정 하에, 기록적 반복 수열의 수렴 속도를 확립하는 것.
• 강한 볼록성과 $y$ 에 대해 선형인 경우, $Ó(1/k^2)$ 수렴 속도를 달성하는 것으로, 문헌에서 새로운 결과이다.
• 커널 행렬 학습에서 알고리즘을 실증적으로 평가하고, 미러-프록스 및 내부점 방법과 비교하는 것.

제안 방법

• 알고리즘은 프리미벌-듀얼 업데이트 체계에 모멘타움 항을 통합하여, 캄볼-포크 방법을 비이차형 결합으로 일반화한다.
• 프리미벌 변수 $x$ 와 듀얼 변수 $y$ 에 대해 프록시멀 유사 업데이트를 사용하며, 수렴을 보장하기 위해 단계 크기를 선택한다.
• 수렴을 보장하기 위해 $\nabla_y\Phi(\cdot,\cdot)$ 와 $\nabla_x\Phi(\cdot,y)$ 의 리프시츠 연속성을 가정하며, 이는 오차 분석을 가능하게 한다.
• 기록적 수열 $\{\bar{x}_k, \bar{y}_k\}$ 은 이중성 갭 $\mathcal{L}(\bar{x}_k, y^*) - \mathcal{L}(x^*, \bar{y}_k)$ 를 통해 분석되며, 이는 최적성 갭을 제한한다.
• 비이차형 결합 항을 가진 사 saddle 점 문제로 커널 행렬 학습을 공식화함으로써 알고리즘을 적용한다.
• 리아푸노프 함수 접근법을 사용하여 수렴을 분석하고, 유도된 오차 한계에 도달한다.

실험 결과

연구 질문

• RQ1 모멘타움을 갖춘 프리미벌-듀얼 알고리즘이 비이차형 결합을 가진 일반적인 볼록-볼록 사 saddle 문제에서 $Ó(1/k)$ 수렴 속도를 달성할 수 있는가?
• RQ2 강한 볼록성과 $\Phi(x,\cdot)$ 가 $y$ 에 대해 선형인 경우, 이차형이 아님에도 불구하고 $Ó(1/k^2)$ 속도를 달성할 수 있는가?
• RQ3 커널 행렬 학습 문제에서 제안된 방법이 실질적으로 미러-프록스 및 내부점 방법과 어떻게 비교되는가?
• RQ4 비이차형 결합을 초월하여 수렴성과 수렴 속도 분석을 보장하기 위해 $\Phi(x,y)$ 에 대해 어떤 가정이 충분한가?
• RQ5 비이차형 환경에서 모멘타움 항이 수렴을 가속화하는 데 효과적으로 활용될 수 있는가?

주요 결과

• 함수 $f$ 가 볼록이고 결합 항 $\Phi(x,y)$ 가 약한 리프시츠 조건을 만족할 경우, 기록적 수열에서 $Ó(1/k)$ 수렴 속도를 달성한다.
• 추가로 $f$ 가 강한 볼록이고 $\Phi(x,\cdot)$ 가 $y$ 에 대해 선형인 조건이 만족될 경우, $Ó(1/k^2)$ 수렴 속도를 달성하며, 이는 비이차형 결합에 대해 이전에 문헌에 기록되지 않은 결과이다.
• 오차 한계는 이중성 갭 $\mathcal{L}(\bar{x}_k, y^*) - \mathcal{L}(x^*, \bar{y}_k)$ 를 통해 표현되며, 이는 최적성 갭을 정량화한다.
• 알고리즘은 커널 행렬 학습에서 실증적으로 검증되었으며, 미러-프록스 및 내부점 방법보다 뛰어난 성능을 보였다.
• 이론적 분석은 $\Phi(x,y)$ 가 이차형이 되어야 한다는 요구 조건이 없으며, 이는 이전 연구에서 이 제약 조건에 의존한 일반화를 초월한다.
• 제안된 알고리즘은 일반적인 결합 항을 가진 더 넓은 범위의 사 saddle 점 문제에 대해 프리미벌-듀얼 방법의 적용 가능성을 확장한다.