[논문 리뷰] Decentralized SGD with Asynchronous, Local and Quantized Updates

Giorgi Nadiradze, Amirmojtaba Sabour외 4명|arXiv (Cornell University)|2021. 05. 04.

Stochastic Gradient Optimization Techniques참고 문헌 40인용 수 5

한 줄 요약

이 논문은 최소한의 조율로 대규모 신경망 훈련을 스케일링할 수 있도록 이방향, 국소, 양자화 업데이트를 통합하는 탈중앙화된 SGD 알고리즘을 제안한다. 표준 가정 하에서 수렴성을 증명하고, 실용적인 확장성과 이전 방법을 능가하거나 능가하는 정확도를 보여준다.

ABSTRACT

The ability to scale distributed optimization to large node counts has been one of the main enablers of recent progress in machine learning. To this end, several techniques have been explored, such as asynchronous, quantized and decentralized communication--which significantly reduce the impact of communication and synchronization, as well as the ability for nodes to perform several local model updates before communicating--which reduces the frequency of communication. In this paper, we show that these techniques, which have so far largely been considered independently, can be jointly leveraged to minimize distribution cost for training neural network models via stochastic gradient descent (SGD). We consider a setting with minimal coordination: we have a large number of nodes on a communication graph, each with a local subset of data, performing independent SGD updates onto their local models. After some number of local updates, each node chooses an interaction partner uniformly at random from its neighbors, and averages a (possibly quantized) version of its local model with the neighbor's model. Our first contribution is in proving that, even under such a relaxed setting, SGD can still be guaranteed to converge under standard assumptions. The proof is based on a new connection with parallel load-balancing processes, and improves existing techniques by handling decentralization, asynchrony, quantization, and local updates, into a single framework, and bounding their impact. On the practical side, we implement variants of our algorithm and deploy them onto distributed environments, and show that they can successfully converge and scale for large-scale neural network training tasks, matching or even slightly improving the accuracy of previous methods.

연구 동기 및 목표

• 최소한의 조율로 대규모 노드 수에 걸쳐 분산 딥러닝 훈련을 스케일링하는 데 도전 과제를 해결한다.
• 이방향 업데이트, 국소 모델 최적화, 통신 양자화를 하나의 탈중앙화 프레임워크에 통합한다.
• 수렴성을 희생시키지 않고 대규모 신경망 훈련에서 통신 및 동기화 오버헤드를 줄인다.
• 이완된 조율, 이방향성, 양자화, 국소 업데이트 조건 하에서 탈중앙화된 SGD의 이론적 수렴 보장을 확립한다.
• 실제 분산 환경에서 대규모 모델 훈련을 위한 제안된 방법의 실용적 효과성을 입증한다.

제안 방법

• 노드들은 통신하기 전에 자신의 로컬 데이터 서브셋에서 독립적인 로컬 SGD 업데이트를 수행한다.
• 고정된 수의 로컬 업데이트 후, 각 노드는 자신의 통신 그래프에서 무작위로 이웃을 선택하여 모델 파라미터를 교환한다.
• 교환된 모델 파라미터는 평균화되며, 평균화 과정은 모델의 양자화된 버전에서 수행되어 통신 비용을 줄인다.
• 알고리즘은 중앙 집중식 파라미터 서버나 글로벌 동기화 없이 완전히 탈중앙화된 방식으로 작동한다.
• 이론적 분석은 업데이트 과정을 병렬 로드 밸런싱 동역학과 연결하여, 탈중앙화, 이방향성, 양자화, 국소 업데이트의 영향을 제한한다.
• 프레임워크는 임의의 통신 그래프를 지원하며, 결정론적 및 확률적 모두 양자화 기법을 처리할 수 있다.

실험 결과

연구 질문

• RQ1 표준 가정 하에서 이방향, 국소, 양자화 업데이트를 갖춘 탈중앙화된 SGD도 여전히 수렴성을 보장할 수 있는가?
• RQ2 탈중앙화, 이방향성, 양자화, 국소 업데이트가 함께 작용할 때 SGD의 수렴 행동에 어떻게 영향을 미치는가?
• RQ3 이러한 기법들을 하나의 통합 프레임워크에 결합했을 때 분산 최적화에 이론적으로 어떤 영향을 미치는가?
• RQ4 제안된 방법은 중앙 집중식 조율 없이 실생활 대규모 신경망 훈련에서 효과적으로 확장될 수 있는가?
• RQ5 기존의 중앙 집중식 또는 부분적으로 중앙 집중식 접근법과 비교해 볼 때, 제안된 방법의 정확도와 수렴 속도는 어떻게 되는가?

주요 결과

• 이방향, 국소, 양자화 업데이트를 갖춘 제안된 탈중앙화된 SGD 알고리즘은 비볼록 최적화의 표준 가정 하에서 수렴성이 입증되었다.
• 이론적 분석은 업데이트 동역학과 병렬 로드 밸런싱 과정 사이에 새로운 연결 고리를 설정하여 수렴 오차에 대한 더 날카운 경계를 가능하게 하였다.
• 이 방법은 임의의 통신 그래프, 무작위 이웃 선택, 양자화된 통신 조건 하에서도 수렴성을 확보한다.
• 실험적 평가에서는 알고리즘이 분산 환경에서 효과적으로 확장되며, 이전 방법보다 정확도를 유사하거나 略적으로 향상시킴을 보였다.
• 훈련 효율성과 모델 성능을 유지하면서도 통신 비용과 동기화 오버헤드를 크게 줄였다.