[논문 리뷰] Innovation Compression for Communication-efficient Distributed Optimization with Linear Convergence

Jiaqi Zhang, Keyou You외 1명|arXiv (Cornell University)|2021. 05. 14.

Distributed Control Multi-Agent Systems참고 문헌 37인용 수 5

한 줄 요약

이 논문은 혁신 벡터—결정 변수와 그 추정치의 차이—를 압축함으로써 선형 수렴를 달성하는 통신 효율적인 분산 최적화 알고리즘인 COLD 및 Dyna-COLD을 제안한다. $\delta$-수축 압축기와 새로운 역학적 스케일링 메커니즘을 활용하여, 압축되지 않은 방법과 동일한 수렴 속도를 확보하면서도, 1비트 양자화기와 같은 편향이 있는 압축기조차도 저통신 프로토콜을 가능하게 한다.

ABSTRACT

Information compression is essential to reduce communication cost in distributed optimization over peer-to-peer networks. This paper proposes a communication-efficient linearly convergent distributed (COLD) algorithm to solve strongly convex optimization problems. By compressing innovation vectors, which are the differences between decision vectors and their estimates, COLD is able to achieve linear convergence for a class of $δ$-contracted compressors. We explicitly quantify how the compression affects the convergence rate and show that COLD matches the same rate of its uncompressed version. To accommodate a wider class of compressors that includes the binary quantizer, we further design a novel dynamical scaling mechanism and obtain the linearly convergent Dyna-COLD. Importantly, our results strictly improve existing results for the quantized consensus problem. Numerical experiments demonstrate the advantages of both algorithms under different compressors.

연구 동기 및 목표

• 피어 투 피어 네트워크에서 분산 최적화의 높은 통신 비용 문제를 해결하기 위해, 수렴 속도를 희생시키지 않은 채 효율적인 압축을 가능하게 한다.
• 특정 압축기에서만 작동하거나 비편향, 확률적 압축 연산자를 요구하는 이전 방법의 한계를 극복한다.
• 비편향 및 편향이 있는 $\delta$-수축 압축기 모두에 대해 선형 수렴를 달성한다. 이는 1비트 이진 양자화기와 같은 결정론적 양자화기를 포함한다.
• 역학적 스케일링 메커니즘을 설계하여 더 넓은 범위의 압축기군에 대해 수렴 보장을 확장함으로써, 강건성과 통신 효율성을 향상시킨다.
• 양자화된 공감 문제에 대한 이론적 경계를 강화하여, 기존 문헌의 속도를 초월하는 성능을 향상시킨다.

제안 방법

• 통신 오버헤드를 줄이기 위해 결정 변수와 그 추정치의 차이인 혁신 벡터를 압축하는 분산 알고리즘인 COLD을 제안한다.
• 압축 오차가 $\delta \|\mathbf{x}\|^{2}$ 이하로 제한되는 $\delta$-수축 압축기—비편향 및 편향이 있는 경우 모두—를 사용한다. 이는 제어된 왜곡을 보장한다.
• Dyna-COLD에서 비편향 압축기에서의 수렴을 유지하기 위해 동적으로 스케일링 인자를 조정하는 역학적 스케일링 메커니즘을 도입한다.
• 리아푸노프 함수를 사용하여 수렴성을 분석하고, 스펙트럼 갭 $\rho$ 및 압축 매개변수 $\delta$ 에 따라 의존하는 선형 수렴 속도를 유도한다.
• COLD가 $\delta = 0$ 일 때 압축되지 않은 NIDS 방법과 동일한 수렴 속도를 달성함을 입증하여 효율성을 검증한다.
• 정밀 조정 없이도 안정성과 수렴성을 보장하기 위해, Dyna-COLD에서 단계 크기 규칙 $s^k = 3\|X^1\|_{\text{max}} \cdot 0.99^k$ 를 설계한다.

(a) C1

실험 결과

연구 질문

• RQ1 일반적인 압축기군, 특히 편향이 있는 경우에도 혁신 압축을 사용하여 분산 최적화에서 선형 수렴를 달성할 수 있는가?
• RQ2 압축은 수렴 속도에 어떤 영향을 미치며, 이 속도는 압축되지 않은 기준과 동일하게 유지될 수 있는가?
• RQ3 역학적 스케일링 메커니즘이 비편향 또는 비확률적 압축기로도 선형 수렴를 확장할 수 있는가?
• RQ4 제안된 방법은 기존의 양자화된 공감 알고리즘보다 수렴 속도와 통신 비용 측면에서 뛰어나게 성능을 냈는가?
• RQ5 기존의 CHOCO-GOSSIP과 같은 이전 연구에 비해, 양자화된 공감 문제의 이론적 수렴 속도를 향상시킬 수 있는가?

주요 결과

• COLD는 비편향 및 편향이 있는 $\delta$-수축 압축기 모두에 대해 선형 수렴를 달성하며, 수렴 속도는 $\mathcal{O}\big{(}\max\big{\{}\frac{L}{\mu},\frac{1}{(1-\delta)^2\rho}\big{\}}\log\frac{1}{\epsilon}\big{)}$ 이다.
• $\delta = 0$ 일 때 COLD는 압축되지 않은 NIDS 알고리즘과 동일한 수렴 속도를 확보하여, 이상적인 경우 압축이 성능을 떨어뜨리지 않음을 확인한다.
• Dyna-COLD는 1비트 이진 양자화기와 같은 압축기까지 포함하여 더 넓은 범위의 압축기군에서 선형 수렴를 달성한다. 이는 이전의 비편향 확률적 가정에 의해 배제된 압축기이다.
• 수치 실험 결과, 1비트 양자화기를 사용한 Dyna-COLD는 가장 낮은 통신 비용을 기록했으며, 반복 수 측면에서 NIDS 성능을 그대로 유지한다.
• 공감 문제에 대해, 수렴 속도는 기존의 CHOCO-GOSSIP의 $\mathcal{O}(\frac{1}{(1-\delta)\rho^2}\log\frac{1}{\epsilon})$ 에서 $\mathcal{O}(\frac{1}{(1-\delta)\rho}\log\frac{1}{\epsilon})$ 로 향상되었으며, 최고의 알려진 속도를 달성한다.
• Dyna-COLD는 스케일링 매개변수 $s^k$ 의 선택에 대해 강건하며, 정밀 조정 없이도 빠른 수렴를 유지한다.

(b) C2