[논문 리뷰] Accelerated Decentralized Optimization with Local Updates for Smooth and Strongly Convex Objectives

Hadrien Hendrikx, Francis Bach외 1명|arXiv (Cornell University)|2018. 10. 05.

Distributed Control Multi-Agent Systems참고 문헌 7인용 수 17

한 줄 요약

이 논문은 국소적 동기화와 엣지 기반 업데이트를 사용하는 부드럽고 강력히 볼록 함수를 위한 탈중앙화된 가속 최적화 알고리즘인 ESDACD를 제안한다. 이 알고리즘은 최적의 동기식 SSDA 알고리즘과 동일한 수렴 속도를 달성하면서도 비동기 실행을 가능하게 하며, 특히 이질적 네트워크에서 게이지 설정에서 오차의 두 번째 모멘트에 대해 증명 가능하게 향상된 수렴 성능을 보인다.

ABSTRACT

In this paper, we study the problem of minimizing a sum of smooth and strongly convex functions split over the nodes of a network in a decentralized fashion. We propose the algorithm $ESDACD$, a decentralized accelerated algorithm that only requires local synchrony. Its rate depends on the condition number $κ$ of the local functions as well as the network topology and delays. Under mild assumptions on the topology of the graph, $ESDACD$ takes a time $O((τ_{\max} + Δ_{\max})\sqrt{κ/γ}\ln(ε^{-1}))$ to reach a precision $ε$ where $γ$ is the spectral gap of the graph, $τ_{\max}$ the maximum communication delay and $Δ_{\max}$ the maximum computation time. Therefore, it matches the rate of $SSDA$, which is optimal when $τ_{\max} = Ω\left(Δ_{\max} ight)$. Applying $ESDACD$ to quadratic local functions leads to an accelerated randomized gossip algorithm of rate $O( \sqrt{θ_{ m gossip}/n})$ where $θ_{ m gossip}$ is the rate of the standard randomized gossip. To the best of our knowledge, it is the first asynchronous gossip algorithm with a provably improved rate of convergence of the second moment of the error. We illustrate these results with experiments in idealized settings.

연구 동기 및 목표

• 동기식 방법과 유사한 가속 수렴 속도를 달성하면서도 전역 동기화가 아닌 국소적 동기화만 요구하는 탈중앙화 최적화 알고리즘을 설계하는 것.
• 대규모 분산 학습에서의 통신 병목 현상과 단일 장애 지점 등의 문제를 해결하기 위해 중심 집중형 아키텍처의 한계를 해결하는 것.
• 다양한 노드 성능과 변동하는 국소 조건수를 가진 탈중앙화 환경에서 수렴 속도를 향상시키는 것.
• 국소 업데이트와 엣지 기반 파rameter를 갖춘 비동기 게이지 알고리즘을 개발하여, 표준 랜덤 게이지 알고리즘보다 오차의 두 번째 모멘트 측면에서 증명 가능한 향상된 수렴 속도를 달성하는 것.
• 국소 파arameter 조정과 엣지 전용 업데이트가 수렴 보장을 유지하면서도 이질적 네트워크에서 성능을 향상시킬 수 있는지 입증하는 것.

제안 방법

• ESDACD는 가속된 이중 좌표 강하법에 기반하며, 이웃 노드를 비동기적으로 업데이트하기 위해 엣지 샘플링을 사용한다.
• 알고리즘은 엣지에서 랜덤화된 게이지 메커니즘을 통해 국소 기울기 업데이트와 전역 수축 단계를 수행한다.
• 로컬 스무쓰니스와 통신 지연에 적응하는 엣지 전용 스텝 사이즈와 가중치를 도입한다.
• 더 빠른 수렴을 달성하기 위해 이중 설정에서 네스테로프 스타일의 가속을 활용한다.
• 노드별로 샘플링된 순서에 따라 업데이트가 수행되어 전역 조율이 필요 없이 국소 동기화를 보장한다.
• 알고리즘은 일반적인 부드럽고 강력히 볼록 최적화 문제와 분산 평균 공감 문제 양쪽에 적용된다.

실험 결과

연구 질문

• RQ1 탈중앙화 최적화 알고리즘이 최적의 동기식 방법(예: SSDA)과 동일한 수렴 속도를 달성하면서도 전역 동기화가 아닌 국소적 동기화만 요구할 수 있는가?
• RQ2 국소 업데이트와 엣지 기반 파arameter를 갖춘 비동기 게이지 알고리즘이 오차의 두 번째 모멘트 측면에서 표준 랜덤 게이지 알고리즘을 능가하는가?
• RQ3 다양한 국소 조건수와 계산 지연을 가진 이질적 네트워크에서 ESDACD는 어떻게 성능을 발휘하는가?
• RQ4 ESDACD의 국소 파arameter 조정이 비균일한 환경에서 수렴 속도를 적응적으로 향상시킬 수 있는가?
• RQ5 통신 지연과 계산 시간이 탈중앙화 가속 알고리즘의 수렴 속도에 어떤 영향을 미치는가?

주요 결과

• ESDACD는 약간의 그래프 가정 하에 $ O((\tau_{\max}+\Delta_{\max})\sqrt{\kappa/\gamma}\ln(\epsilon^{-1})) $ 의 수렴 속도를 달성하며, 이는 약간의 그래프 가정 하에 SSDA의 최적 수렴 속도와 일치한다.
• 동질적 환경에서는 ESDACD가 반복당 SSDA보다 약 2배 느리지만, 격자 그래프에서 기울기 수를 2배 줄이고 메시지 수를 8배 줄인다.
• 변동하는 국소 조건수를 가진 이질적 환경에서는 ESDACD가 기울기 수의 절반만 사용하면서도 SSDA보다 훨씬 낮은 최종 오차를 달성한다.
• 분산 평균 공감 문제에 대해 ESDACD는 오차의 두 번째 모멘트에 대해 증명 가능하게 향상된 수렴 속도를 갖는 첫 번째 비동기 게이지 알고리즘을 제공한다.
• 알고리즘은 스무쓰니스와 계산 속도의 국소적 변동에 잘 적응하여, 노드 성능의 변동성이 큰 상황에서 SSDA를 능가한다.
• 실험 결과에 따르면 ESDACD는 SSDA가 한 번의 반복을 완료하는 데 걸리는 시간 동안 두 번의 반복을 완료하여 이질적 환경에서 뛰어난 계산 효율성을 보였다.