[논문 리뷰] Optimal Algorithms for Non-Smooth Distributed Optimization in Networks

Kevin Scaman, Francis Bach외 3명|arXiv (Cornell University)|2018. 06. 01.

Distributed Control Multi-Agent Systems참고 문헌 11인용 수 79

한 줄 요약

본 논문은 두 가지 규칙성 가정(global Lipschitz 및 local Lipschitz)하에서 비매끄러운 분산 볼록 최적화의 최적 수렴 속도를 도출한다. 국소 규칙성 하에서 MSPD를 최적의 분산 알고리즘으로, 전역 규칙성 하에서는 DRS를 최적화 알고리즘으로 도입하며, 일치하는 하한 및 차원 의존적 스무딩 접근법을 제시한다.

ABSTRACT

In this work, we consider the distributed optimization of non-smooth convex functions using a network of computing units. We investigate this problem under two regularity assumptions: (1) the Lipschitz continuity of the global objective function, and (2) the Lipschitz continuity of local individual functions. Under the local regularity assumption, we provide the first optimal first-order decentralized algorithm called multi-step primal-dual (MSPD) and its corresponding optimal convergence rate. A notable aspect of this result is that, for non-smooth functions, while the dominant term of the error is in $O(1/\sqrt{t})$, the structure of the communication network only impacts a second-order term in $O(1/t)$, where $t$ is time. In other words, the error due to limits in communication resources decreases at a fast rate even in the case of non-strongly-convex objective functions. Under the global regularity assumption, we provide a simple yet efficient algorithm called distributed randomized smoothing (DRS) based on a local smoothing of the objective function, and show that DRS is within a $d^{1/4}$ multiplicative factor of the optimal convergence rate, where $d$ is the underlying dimension.

연구 동기 및 목표

• 네트워크의 컴퓨팅 유닛들 간의 비매끄러운 볼록 목적함수 분산 최적화의 동기를 제시한다.
• 두 가지 규칙성 가정(global Lipschitz 및 local Lipschitz) 하에서의 최적 수렴 속도를 도출한다.
• 이 최적 속도를 달성하는 알고리즘을 제시한다: local 규칙성에 대해 MSPD, global 규칙성에 대해 DRS.
• 제안된 방법의 최적성을 보여주는 하한을 확립하고 통신 대 계산의 균형에 대해 논의한다.

제안 방법

• 문제를 strongly connected 그래프에서 지역 함수의 평균을 최소화하는 문제로 모델링한다.
• local 규칙성 하에서 문제를 saddle-point로 형식화하고 accelerated gossip를 활용한 멀티스텝 primal-dual(MSPD) 알고리즘을 설계하여 최적 속도를 달성한다.
• global 규칙성 하에서 Gaussian 스무딩에 기반한 분산 스무딩 접근법(DRS)을 적용하여 빠른 통신 속도를 얻고 수렴성을 분석한다.
• local 규칙성에 대해 MSPD 속도와 일치하도록 하한을 증명하고, global 규칙성 하에서 DRS가 최적 통신 속도에 대해 d^{1/4} 배수 이내임을 보인다.
• Chebyshev 가속을 포함한 분산 방법을 확장하여 MSPD에서 최적의 통신 속도에 도달한다.

실험 결과

연구 질문

• RQ1 global Lipschitz 규칙성 하에서의 비매끄러운 분산 최적화의 최적 수렴 속도는 무엇인가?
• RQ2 local Lipschitz 규칙성 하에서의 최적 수렴 속도는 무엇이며 그것을 달성하는 알고리즘을 설계할 수 있는가?
• RQ3 네트워크 토폴로지와 통신이 비매끄러운 분산 최적화의 속도에 어떤 영향을 미치는가?
• RQ4 스무딩 기법이 차원 의존적이되지만 거의 최적의 속도를 분산 설정에서 얻을 수 있는가?
• RQ5 분산 비매끄러운 최적화에서 계산 및 통신의 기본 하한은 무엇인가?

주요 결과

• DRS는 전역 규칙성에서 ε의 근사 오차를 시간 O(RL_g/ε · (Δτ+1) d^{1/4} + (RL_g/ε)^2) 이내로 달성한다.
• MSPD는 local 규칙성 하에서 최적이며, ε 근사화까지의 시간은 O(RL_ℓ/ε · τ/√γ(W) + (RL_ℓ/ε)^2) 로 한정된다.
• local 규칙성 하에서 주된 오차 항은 로컬 계산으로 인한 O(1/√t)이며, 통신 오차는 O(1/t)로 감소한다.
• 하한은 DRS 속도가 계산 시간 측면에서 최적이며, 최적 통신 속도에 대해서는 d^{1/4} 배수 이내의 최적임을 보여준다.
• MSPD는 accelerated gossip 및 primal-dual 업데이트 체계를 도입함으로써 최적의 수렴 속도를 달성한다.