[논문 리뷰] Nested Distributed Gradient Methods with Adaptive Quantized Communication

Albert S. Berahas, Charikleia Iakovidou외 1명|arXiv (Cornell University)|2019. 03. 18.

Distributed Control Multi-Agent Systems참고 문헌 42인용 수 7

한 줄 요약

이 논문은 자원 제약이 있는 네트워크에서 국소 볼록 함수의 합을 최소화하기 위해 적응형 양자화 통신을 갖춘 내재된 분산 기울기 방법인 NEAR-DGD+Q을 제안한다. 동적으로 양자화 정밀도와 공감 단계를 증가시킴으로써, 이 방법은 정확한 해로 R-선형 수렴을 달성하며, 양자화 오차와 공감 오차를 균형 잡아 통신 비용을 줄이되 정확도를 희생시키지 않는다.

ABSTRACT

In this paper, we consider minimizing a sum of local convex objective functions in a distributed setting, where communication can be costly. We propose and analyze a class of nested distributed gradient methods with adaptive quantized communication (NEAR-DGD+Q). We show the effect of performing multiple quantized communication steps on the rate of convergence and on the size of the neighborhood of convergence, and prove R-Linear convergence to the exact solution with increasing number of consensus steps and adaptive quantization. We test the performance of the method, as well as some practical variants, on quadratic functions, and show the effects of multiple quantized communication steps in terms of iterations/gradient evaluations, communication and cost.

연구 동기 및 목표

• 비용이 많이 들고 대역폭이 제한된 통신 환경에서도 수렴 정확도를 유지하는 분산 최적화 알고리즘을 설계하기.
• 다중 양자화 공감 단계가 수렴 속도와 이웃 수에 미치는 영향을 분석하기.
• 양자화 오차와 공감 오차를 균형 잡는 적응형 양자화 전략을 개발하기.
• 강력한 볼록 설정에서 고정 단계 크기를 사용하여 정확한 R-선형 수렴을 달성하기.
• 다양한 대역폭과 계산 비용 조건에서 반복 횟수, 통신 비용, 계산 비용 간의 성능 트레이드오���을 평가하기.

제안 방법

• 이 방법은 교차하는 기울기 단계와 공감 단계를 갖는 내재된 구조를 사용하며, 각 에이전트는 국소 기울기 업데이트를 수행한 후 이웃과 양자화된 정보를 교환한다.
• 통신은 정해진 스케줄에 따라 시간이 지남에 따라 전송되는 유효 자릿수의 수를 증가시키는 적응형 기법을 사용해 양자화된다.
• 알고리즘은 분산 문제의 공감 기반 재구성에 기반하여 분석되며, 에이전트 간의 일치를 보장하기 위해 대칭 이중스토하스틱 행렬 W를 사용한다.
• 수렴 분석을 통해 양자화가 적응적으로 개선되고 공감 단계 수가 증가할 경우 정확한 해로 R-선형 수렴이 증명된다.
• 통신과 계산 간의 트레이드오프를 평가하기 위해 다양한 네트워크 구조, 양자화 기법, 비용 파rameter를 갖는 이차 함수에서 시험된다.
• 통신과 계산 비용에 적용별 가중치를 부여한 디지트 전송 수와 기울기 평가 수를 조합한 비용 모델이 사용된다.

실험 결과

연구 질문

• RQ1 다중 양자화 공감 단계를 수행할 경우 분산 기울기 방법에서 수렴 속도와 이웃 수에 어떤 영향을 미치는가?
• RQ2 유한한 통신 대역폭 조건 하에서 적응형 양자화를 사용해 분산 최적화에서 정확한 R-선형 수렴을 달성할 수 있는가?
• RQ3 양자화 통신을 갖는 분산 최적화에서 통신 비용(전송된 디지트 수)과 계산 비용(기울기 평가 수) 간의 트레이드오프는 무엇인가?
• RQ4 수렴 속도와 정확도 측면에서 적응형 양자화는 고정 정밀도 양자화보다 어떻게 비교되는가?
• RQ5 양자화 오차와 공감 오차를 균형 잡아 정확도를 떨어뜨리지 않고 통신 부담을 줄일 수 있는가?

주요 결과

• NEAR-DGD+Q 방법은 공감 단계 수가 증가하고 양자화가 적응적으로 개선될 경우 정확한 해로 R-선형 수렴을 달성한다.
• 적응형 양자화는 통신이 비쌀 경우, 더 적은 유효 자릿수를 전송하면서도 비양자화 변종과 동일한 정확도에 도달할 수 있도록 허용한다.
• 특히 $ c_c = 10^4 $ 일 때, 적응형 양자화 변종은 총 비용 측면에서 비양자화 버전을 능가하며 통신 절감 효과를 보였다.
• 통신이 저렴할 경우($ c_c = 10^{-4} $), 계산 비용이 지배적이므로 적응형 양자화의 이점이 거의 없다.
• 공감 단계 수를 반복마다 두 배로 증가시키는 방법(NEAR-DGD$^+$(1,1,50))는 통신 부담을 줄이면서도 비양자화 버전과 거의 동일한 성능을 보였다.
• 고정 정밀도 양자화는 해의 이웃 영역으로 수렴하며, 이 이웃 영역의 크기는 전송된 디지트 수와 반비례한다.