[논문 리뷰] Accelerating the Convergence Rates of Distributed Subgradient Methods with Adaptive Quantization

Thinh T. Doan, Siva Theja Maguluri외 1명|arXiv (Cornell University)|2018. 10. 30.

Distributed Control Multi-Agent Systems인용 수 10

한 줄 요약

이 논문은 분산 서브그래디언트 알고리즘을 위한 적응형 양자화 방법을 제안하며, 알고리즘의 진행 상황에 따라 양자화 수준을 동적으로 조정함으로써 양자화 오차를 제거한다. 이 방법을 통해 볼록 함수와 강볼록 함수의 경우 모두 양자화되지 않은 방법과 동일한 수렴 속도를 달성하며, 오직 양자화 비트 수에 따라 달라지는 인자만 다를 뿐이다.

ABSTRACT

We study distributed optimization problems over a network when the communication between the nodes is constrained, and so information that is exchanged between the nodes must be quantized. This imperfect communication poses a fundamental challenge, and this imperfect communication, if not properly accounted for, prevents the convergence of these algorithms. In this paper, our main contribution is to propose a novel quantization method, which we refer to as an adaptive quantization. The main idea of our approach is to quantize the nodes' estimates based on the progress of the algorithm, which helps to eliminate the quantized errors. Under the adaptive quantization, we then derive the bounds on the convergence rates of the proposed method as a function of the bandwidths and the underlying network topology, for both convex and strongly convex objective functions. Our results shows that using the adaptive quantization, the rate of convergence of distributed consensus-based subgradient methods with and without quantization are the same, except for a factor which captures the number of quantization bits. Finally, we provide numerical simulations to compare the convergence properties of the distributed gradient methods with and without quantization for solving the well-known regression problems over networks, for both quadratic and absolute loss functions.

연구 동기 및 목표

• 노드 간 정보 교환에 대역폭 제약이 존재하는 분산 최적화 문제에서의 통신 제약 문제를 다루기.
• 기본적인 양자화 방법이 분산 서브그래디언트 알고리즘의 수렴 성능을 떨어뜨리는 핵심 문제를 해결하기.
• 알고리즘 진행 상황에 따라 적응적으로 변화하는 양자화 전략을 설계하여 지속적인 양자화 오차를 제거하기.
• 적응형 양자화 하에서 볼록 함수와 강볼凸 함수에 대해 수렴 속도를 분석하기.
• 적응형 양자화를 사용할 경우 수렴 속도가 양자화되지 않은 방법과 동일하며, 오직 양자화 비트 수에 따라 달라지는 인자만 존재함을 보여주기.

제안 방법

• 분산 서브그래디언트 알고리즘의 현재 진행 상황에 따라 양자화 수준을 조정하는 적응형 양자화 체계를 제안하기.
• 알고리즘이 수렴함에 따라 서브그래디언트 노름이 감소하는 것을 활용하여 시간이 지남에 따라 양자화 오차를 줄이는 동적 양자화 규칙을 도입하기.
• 네트워크 구조와 대역폭(비트 수)에 명시적으로 의존하는 적응형 양자화 하에서 분산 서브그래디언트 방법의 수렴 한계를 수립하기.
• 제안된 양자화 프레임워크 하에서 볼록 함수와 강볼凸 함수에 대해 이론적 수렴 속도를 유도하기.
• 각 노드가 이웃 노드로부터 수신한 양자화된 정보를 사용하여 추정치를 갱신하는 공통화 기반 업데이트 규칙을 사용하며, 양자화 수준을 반복적으로 조정하기.
• 다양한 양자화 수준에서 이차 손실 함수와 절대 손실 함수를 사용한 회귀 문제에 대해 수치 시뮬레이션을 통해 방법을 검증하기.

실험 결과

연구 질문

• RQ1 적응형 양자화가 분산 서브그래디언트 알고리즘에서 고정된 양자화로 인해 일반적으로 발생하는 수렴 성능 열화를 제거할 수 있는가?
• RQ2 적응형 양자화를 사용한 분산 서브그래디언트 방법의 수렴 속도는 양자화되지 않은 방법과 비교해 어떻게 되는가?
• RQ3 수렴 속도는 양자화 비트 수와 네트워크 구조에 어떻게 의존하는가?
• RQ4 적응형 양자화 전략은 볼록 함수와 강볼凸 함수 모두에 대해 수렴성을 유지하는가?
• RQ5 회귀 문제에서 이차 손실 함수와 절대 손실 함수와 같은 다양한 손실 함수에 대해 이 방법의 수렴 성질은 어떻게 달라지는가?

주요 결과

• 제안된 적응형 양자화 방법은 양자화되지 않은 분산 서브그래디언트 방법과 동일한 수렴 속도를 달성하며, 오직 양자화 비트 수에 따라 달라지는 인자만 다를 뿐이다.
• 볼록 함수의 경우, 적응형 양자화 하에서의 수렴 속도는 비트 수의 로그 인자까지 고려하면 O(1/√t)이며, 이는 양자화되지 않은 경우와 동일하다.
• 강볼凸 함수의 경우, 적응형 양자화 하에서의 수렴 속도는 O(1/t)이며, 다시 한 번 비트에 따라 달라지는 인자까지 고려하면 양자화되지 않은 경우와 동일하다.
• 수렴 한계는 네트워크의 대수적 연결성과 양자화 비트 수에 명시적으로 의존하며, 네트워크 구조와 대역폭의 영향을 보여준다.
• 수치 시뮬레이션을 통해 이차 손실 함수와 절대 손실 함수를 사용한 회귀 문제에서 적응형 양자화 방법이 고정된 양자화 방법보다 더 빠르고 안정적으로 수렴하는 것으로 확인되었다.
• 이 방법은 기존의 양자화된 분산 알고리즘에서 수렴을 방해하는 지속적인 양자화 오차를 효과적으로 제거한다.