[논문 리뷰] Decentralized Distributed Optimization for Saddle Point Problems

Alexander Rogozin, Aleksandr Beznosikov외 4명|arXiv (Cornell University)|2021. 02. 15.

Optimization and Variational Analysis참고 문헌 41인용 수 10

한 줄 요약

이 논문은 국소적 및 글로벌 변수를 가진 매끄럽고 볼록-볼록형 사 saddle point 문제를 위한 분산형 Mirror-Prox 알고리즘을 제안하며, 최적의 $O(\varepsilon^{-1})$ 통신 및 오라클 복잡도를 달성한다. 비유클리드형 프록시멀 설정(예: 엔트로픽)을 지원하며, 하한선을 충족하여 정확도 $\varepsilon$와 네트워크 조건 수치 $\chi$ 측면에서 최적성을 입증한다. 이는 워샤르스타인 바리센터 계산에 적용된다.

ABSTRACT

We consider distributed convex-concave saddle point problems over arbitrary connected undirected networks and propose a decentralized distributed algorithm for their solution. The local functions distributed across the nodes are assumed to have global and local groups of variables. For the proposed algorithm we prove non-asymptotic convergence rate estimates with explicit dependence on the network characteristics. To supplement the convergence rate analysis, we propose lower bounds for strongly-convex-strongly-concave and convex-concave saddle-point problems over arbitrary connected undirected networks. We illustrate the considered problem setting by a particular application to distributed calculation of non-regularized Wasserstein barycenters.

연구 동기 및 목표

• 국소적 및 글로벌 변수를 가진 비강한 볼록-볼록형 사 saddle point 문제에 대해 최적의 분산 알고리즘이 부족한 문제를 해결한다.
• 분산 환경에서 최적의 통신 및 오라클 복잡도를 달성하는 방법을 개발한다.
• 향상된 유연성과 적용 가능성을 위해 비유클리드형 프록시멀 설정(예: 엔트로픽)을 가능하게 한다.
• 통신 및 오라클 호출에 대한 하한선을 충족시켜 최적성을 입증한다.
• 정규화 기반 접근법에서의 불안정성을 극복하기 위해 알고리즘을 워샤르스타인 바리센터 문제에 적용한다.

제안 방법

• 분산 네트워크에서 노드 간의 일치를 보장하기 위해 라그랑주 승수를 사용하여 사 saddle point 문제를 수식화한다.
• 일반적인 프록시멀 설정(엔트로픽 정규화와 같은 비유클리드 옵션 포함)을 갖는 분산형 Mirror-Prox 알고리즘의 변형을 도입한다.
• 통신 및 오라클 복잡도를 분리하기 위해 체비셰프 가속을 적용하여 조건 수 $\chi$ 의 의존도를 향상시킨다.
• 오라클 호출과 통신 라운드 사이의 트레이드오프를 관리하기 위해 슬라이딩 유형 절차를 사용한다.
• 이중 변수를 통해 일치 제약 조건을 통합하고, 이중 공간에서 경사수행을 통해 이를 갱신한다.
• 재귀 부등식과 적응형 스텝 사이즈를 사용하여 이중성 갭과 일치 오차를 제한함으로써 수렴성을 확보한다.

실험 결과

연구 질문

• RQ1 국소적 및 글로벌 변수를 가진 분산형 볼록-볼록형 사 saddle point 문제에 대해 $O(\varepsilon^{-1})$ 통신 및 오라클 복잡도를 달성할 수 있는가?
• RQ2 일반적인 프록시멀 설정이 있는 분산 환경에서 Mirror-Prox 알고리즘이 여전히 최적인가?
• RQ3 비유클리드형 프록시멀 설정(예: 엔트로픽)이 분산 사 saddle point 최적화에서 효과적으로 사용될 수 있는가?
• RQ4 제안된 방법은 정규화 기반 접근법에 비해 워샤르스타인 바리센터 문제에서 어떻게 성능을 발휘하는가?
• RQ5 알고리즘의 복잡도는 네트워크의 조건 수 $\chi$ 에 어떻게 의존하는가?

주요 결과

• 제안된 알고리즘은 $O(\varepsilon^{-1})$ 통신 및 오라클 복잡도를 달성하며, 분산 볼록-볼록형 사 saddle point 문제에 대해 기존 하한선과 정확히 일치한다.
• 알고리즘은 목표 정밀도 $\varepsilon$ 와 통신 네트워크의 조건 수 $\chi$ 에 대한 의존성 측면에서 최적이다.
• 이 방법은 엔트로픽 정규화와 같은 비유클리드형 프록시멀 설정을 지원하며, 이는 워샤르스타인 바리센터 문제의 이중선형 사 saddle point 재구성에서 자연스럽게 나타난다.
• 수치 실험 결과, 분산 Mirror-Prox 알고리즘이 특히 작은 정규화 파rameter 하에서 정규화 기반 접근법보다 진짜 워샤르스타인 바리센터를 더 잘 근사함을 보였다.
• 수렴 분석을 통해 이중성 갭과 일치 오차에 대해 $O(1/N)$ 수렴 속도를 확립하였으며, $\varepsilon$ 정밀도를 달성하기 위해 필요한 반복 수 $N$ 에 대한 명시적 상한을 제공하였다.
• 오라클 호출에 대해 알고리즘의 복잡도는 $\mathcal{O}\left(\left(1 + \frac{L_B}{\mu_g}\right)\log\frac{1}{\delta}\log\frac{\|\zeta^0 - \zeta^*\|_2^2}{\varepsilon}\right)$ 로 유계이며, 여기서 $L_B$ 와 $\mu_g$ 는 매끄럽기 및 강력 볼록성 파라미터를 나타낸다.