[논문 리뷰] Fast Convergence Rates of Distributed Subgradient Methods with Adaptive Quantization

Thinh T. Doan, Siva Theja Maguluri외 1명|arXiv (Cornell University)|2018. 10. 30.

Stochastic Gradient Optimization Techniques인용 수 4

한 줄 요약

이 논문은 유한한 통신 대역폭 하에서 비양자화 방법과 동일한 수렴 속도를 달성하기 위해 분산 서브그래디언트 방법에 대해 적응형 양자화를 제안한다. 알고리즘의 진행 상황에 따라 양자화기 해상도를 동적으로 조정함으로써, 볼록 및 강볼록 목표 함수 모두에서 양자화기 해상도에 따라 결정되는 상수 요인 내에서 최적의 수렴 속도를 유지한다.

ABSTRACT

We study distributed optimization problems over a network when the communication between the nodes is constrained, and so information that is exchanged between the nodes must be quantized. Recent advances using the distributed gradient algorithm with a quantization scheme at a fixed resolution have established convergence, but at rates significantly slower than when the communications are unquantized. In this paper, we introduce a novel quantization method, which we refer to as adaptive quantization, that allows us to match the convergence rates under perfect communications. Our approach adjusts the quantization scheme used by each node as the algorithm progresses: as we approach the solution, we become more certain about where the state variables are localized, and adapt the quantizer codebook accordingly. We bound the convergence rates of the proposed method as a function of the communication bandwidth, the underlying network topology, and structural properties of the constituent objective functions. In particular, we show that if the objective functions are convex or strongly convex, then using adaptive quantization does not affect the rate of convergence of the distributed subgradient methods when the communications are quantized, except for a constant that depends on the resolution of the quantizer. To the best of our knowledge, the rates achieved in this paper are better than any existing work in the literature for distributed gradient methods under finite communication bandwidths. We also provide numerical simulations that compare convergence properties of the distributed gradient methods with and without quantization for solving distributed regression problems for both quadratic and absolute loss functions.

연구 동기 및 목표

• 대역폭 제약이 있는 네트워크에서 통신에 양자화가 적용될 경우 발생하는 성능 저하 문제를 해결한다.
• 이전 연구에서 제안된 고정 해상도 양자화 방식의 느린 수렴 문제를 해결한다.
• 알고리즘의 진행 상황에 따라 적응하는 양자화 전략을 설계하여 수렴 속도를 유지한다.
• 적응형 양자화 하에서 볼록 및 강볼록 목표 함수에 대해 이론적 수렴 경계를 확립한다.
• 시뮬레이션을 통해 8비트 적응형 양자화가 비양자화 통신과 거의 동일한 성능을 달성함을 보여준다.

제안 방법

• 각 반복에서 양자화 오차를 명시적으로 고려하는 수정된 분산 서브그래디언트 알고리즘을 도입한다.
• 현재 스텝 사이즈와 추정된 해의 국소화 정도에 따라 각 반복마다 양자화기 코드북을 조정하는 적응형 양자화 방식을 설계한다.
• 네트워크 연결성과 스펙트럼 갭 조건을 충족시키기 위해 게으른 메트로폴리스 행렬을 혼합 행렬로 사용한다.
• 알고리즘이 해에 접근할수록 양자화 간격을 줄이는 양자화 규칙을 적용하여 관심 영역에서 해상도를 향상시킨다.
• 스펙트럼 갭 $1 - ho_2$ 와 양자화기 해상도 $ riangle$ 를 사용하여 수렴 속도의 이론적 경계를 설정한다.
• 감소하는 스텝 사이즈를 사용한 서브그래디언트 강하와 연결된 네트워크에서의 평균화 공통 절차를 적용하여 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 적응형 양자화가 양자화된 및 비양자화된 분산 서브그래디언트 방법 간의 성능 격차를 제거할 수 있는가?
• RQ2 유한한 통신 대역폭 하에서 적응형 양자화를 사용할 경우 어떤 수렴 속도를 달성할 수 있는가?
• RQ3 양자화기 해상도의 선택이 수렴 속도와 최종 정확도에 어떤 영향을 미치는가?
• RQ4 양자화 조건 하에서도 분산 서브그래디언트 방법의 수렴 속도를 비양자화 경우와 동일하게 유지할 수 있는가?
• RQ5 적응형 양자화는 수렴 속도와 안정성 측면에서 고정 해상도 또는 랜덤 양자화보다 어떻게 비교되는가?

주요 결과

• 볼록 목표 함수의 경우, 수렴 속도는 $ f( extbf{z}_i(k)) - f^* riangleq rac{ riangle^2}{(1 - ho_2)^2} rac{ ext{ln } k}{ ext{sqrt}(k)} $ 로 경계되며, 비양자화 DSG와 상수 요인 내에서 일치한다.
• 강볼록 목표 함수의 경우, 수렴 속도는 $ ext{||} extbf{z}_i(k) - extbf{x}^* ext{||}^2 riangleq rac{ riangle^2}{(1 - ho_2)^2} rac{ ext{ln } k}{k} $ 로 경계되며, 다시 한 번 비양자화 DSG와 상수 요인 내에서 일치한다.
• 수치적 시뮬레이션 결과, 8비트 적응형 양자화가 비양자화 통신과 거의 구분되지 않는 수렴 성능을 달성함을 확인했다.
• 단지 4비트일 경우에도 알고리즘이 효과적으로 수렴하며, 반복 수는 약 $ 1/(2^b - 1)^2 $ 의 비율로 증가하며, 이는 이론적 상한선과 일치한다.
• 적응형 양자화는 시간에 따라 변하는 양자화(무한한 비트가 필요)와 랜덤 양자화(느린 수렴 문제 발생)보다 성능이 뛰어나다.
• 제안된 방법은 최적의 수렴 속도와 유한 비트 통신을 동시에 달성하며, 이는 이전 방법들이 하나를 포기하고 다른 하나를 선택하는 것과는 다르다.