[논문 리뷰] Quantized Distributed Gradient Tracking Algorithm with Linear Convergence in Directed Networks

Yongyang Xiong, Ligang Wu외 2명|arXiv (Cornell University)|2021. 04. 08.

Distributed Control Multi-Agent Systems참고 문헌 26인용 수 6

한 줄 요약

이 논문은 방향성 네트워크에서 최소 3단계의 양자화 수준으로도 선형 수렴을 달성하는 새로운 양자화된 분산 기울기 추적 알고리즘(Q-DGT)을 제안한다. 정밀하게 설계된 양자화 규칙과 추적 오차 동역학을 통해 알고리즘은 포화를 방지하고 최적 해로 정확히 수렴함으로써 기존의 양자화 방법에서 흔히 발생하는 비선형 수렴 문제를 해결한다.

ABSTRACT

Communication efficiency is a major bottleneck in the applications of distributed networks. To address the problem, the problem of quantized distributed optimization has attracted a lot of attention. However, most of the existing quantized distributed optimization algorithms can only converge sublinearly. To achieve linear convergence, this paper proposes a novel quantized distributed gradient tracking algorithm (Q-DGT) to minimize a finite sum of local objective functions over directed networks. Moreover, we explicitly derive the update rule for the number of quantization levels, and prove that Q-DGT can converge linearly even when the exchanged variables are respectively one bit. Numerical results also confirm the efficiency of the proposed algorithm.

연구 동기 및 목표

• 방향성 네트워크에서의 분산 최적화에서의 통신 효율성 저하 문제를 해결하기 위해.
• 대부분의 기존 방법이 비선형 수렴에 그치는 것과는 달리, 선형 수렴을 달성하는 양자화된 분산 알고리즘을 개발하기 위해.
• 포화를 방지하고 수렴을 보장하기 위해 필요한 최소한의 양자화 수준을 명시적으로 규명하기 위해.
• 유한 정밀도 통신 하에서 방향성 네트워크로의 선형 수렴 보장을 확장하기 위해, 이는 비균형적인 네트워크 구조로 인해 상당한 도전 과제이기 때문이다.

제안 방법

• 양자화 조건 하에서 의사결정 변수와 추적 변수를 동시에 최적화하는 새로운 양자화된 분산 기울기 추적 알고리즘(Q-DGT)을 제안한다.
• 각 노드의 오차가 [-0.5, 0.5] 범위 내에 유지되어 포화를 방지하는 새로운 양자화 규칙을 도입한다. 이는 유한한 양자화 오차를 유지한다.
• 두 단계 갱신 메커니즘을 사용한다: 기울기 추적과 양자화된 정보 교환을 통해 매 반복에서 의사결정 변수와 추적 변수를 모두 양자화한다.
• 재귀적 오차 한계 분석을 활용하여 양자화 오차의 상한을 유도하고, 시간이 지남에 따라 포화가 발생하지 않도록 보장한다.
• 적절한 양자화기 설계 하에서 수렴을 입증하기 위해 오차 노름이 1보다 작은 수축 인자로 선형적으로 감소함을 보인다.
• 양자화 수준의 수에 대한 명시적인 하한을 유도하여, 3단계의 양자화 수준이 제안된 설계 하에서 선형 수렴을 확보하는 데 충분함을 보여준다.

실험 결과

연구 질문

• RQ1 의사결정 변수와 추적 변수가 모두 유한한 수준의 양자화를 거쳐야 하는 방향성 네트워크에서 분산 최적화 알고리즘이 선형 수렴을 달성할 수 있는가?
• RQ2 이러한 환경에서 포화를 방지하고 수렴을 보장하기 위해 필요한 최소한의 양자화 수준은 몇 개인가?
• RQ3 비균형적인 방향성 네트워크에서 선형 수렴을 유지하기 위해 양자화 오차를 어떻게 유한하게 제어할 수 있는가?
• RQ4 1비트 또는 3단계의 양자화만으로도 방향성 네트워크에서 전역 최적해로 정확히 수렴을 유지할 수 있는가?
• RQ5 제안된 알고리즘이 비균형적인 방향 그래프를 다룰 때, 양자화 조건 하에서도 선형 수렴을 보장하기 위해 어떻게 작동하는가?

주요 결과

• 제안된 Q-DGT 알고리즘은 의사결정 변수와 추적 변수가 모두 3단계의 양자화 수준으로만 이루어져도 방향성 네트워크에서 선형 수렴을 달성한다.
• 모든 반복에서 양자화기의 포화가 방지되며, 이는 모든 노드에서 양자화 오차가 [-0.5, 0.5] 범위 내에 유지됨을 보장함으로써 이루어진다.
• 양자화 수준의 수에 대한 명시적인 하한이 도출되었으며, 제안된 설계 하에서 3단계의 양자화 수준이 선형 수렴을 확보하는 데 충분함을 보여준다.
• 수렴 속도는 선형이며, 오차 노름이 매 반복마다 기하급수적으로 감소함을 재귀적 오차 한계 분석을 통해 입증하였다.
• 수치적 결과는 Q-DGT의 효율성과 강건성을 확인하여 이론적 분석 결과인 수렴성과 양자화 내성에 대한 타당성을 검증한다.
• 이중 추적 메커니즘을 통합함으로써 알고리즘은 비균형적인 방향성 네트워크를 성공적으로 처리하며, 비균형 전이 행렬의 영향을 제거한다.