[論文レビュー] Accelerating the Convergence Rates of Distributed Subgradient Methods with Adaptive Quantization

Thinh T. Doan, Siva Theja Maguluri+1 more|arXiv (Cornell University)|Oct 30, 2018

Distributed Control Multi-Agent Systems被引用数 10

ひとこと要約

本稿では、アルゴリズムの進行状況に応じて量子化レベルを動的に調整することで、量子化誤差を解消する、分散型部分勾配法における適応的量子化手法を提案する。この手法により、凸関数および強い凸関数の両方において、未量子化手法と同等の収束速度が達成され、量子化ビット数に依存する要因を除いて差異がない。

ABSTRACT

We study distributed optimization problems over a network when the communication between the nodes is constrained, and so information that is exchanged between the nodes must be quantized. This imperfect communication poses a fundamental challenge, and this imperfect communication, if not properly accounted for, prevents the convergence of these algorithms. In this paper, our main contribution is to propose a novel quantization method, which we refer to as an adaptive quantization. The main idea of our approach is to quantize the nodes' estimates based on the progress of the algorithm, which helps to eliminate the quantized errors. Under the adaptive quantization, we then derive the bounds on the convergence rates of the proposed method as a function of the bandwidths and the underlying network topology, for both convex and strongly convex objective functions. Our results shows that using the adaptive quantization, the rate of convergence of distributed consensus-based subgradient methods with and without quantization are the same, except for a factor which captures the number of quantization bits. Finally, we provide numerical simulations to compare the convergence properties of the distributed gradient methods with and without quantization for solving the well-known regression problems over networks, for both quadratic and absolute loss functions.

研究の動機と目的

• ノード間の情報交換が帯域制限によって制限される分散最適化における通信制約の課題に対処すること。
• 標準的な量子化では分散型部分勾配法の収束性能が低下するという根本的問題を克服すること。
• アルゴリズムの進行状況に応じて適応的に変化する量子化戦略を設計し、持続的な量子化誤差を排除すること。
• 適応的量子化下での凸関数および強い凸関数に対する収束速度を分析すること。
• 適応的量子化を用いた場合、未量子化手法と同等の収束速度が達成されることを示すこと、ただし量子化ビット数に依存する要因を除いて。

提案手法

• 分散型部分勾配アルゴリズムの進行状況に応じて量子化レベルを調整する適応的量子化スキームを提案する。
• アルゴリズムが収束に近づくにつれて部分勾配ノルムが減少するのを活用し、時間経過とともに量子化誤差を低減する動的量子化ルールを導入する。
• ネットワークのトポロジーと帯域（ビット数）に明示的に依存する、適応的量子化下での分散型部分勾配法の収束バウンドを定式化する。
• 提案された量子化フレームワーク下で、凸関数および強い凸関数の理論的収束速度を導出する。
• 各ノードが隣接ノードからの量子化情報を使って推定値を更新するコセンサスベースの更新ルールを用い、量子化レベルを反復的に調整する。
• さまざまな量子化レベル下で、二乗損失関数および絶対損失関数を用いた回帰問題における数値シミュレーションを通じて、手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 適応的量子化は、分散型部分勾配法において通常発生する固定量子化による収束性能の低下を解消できるか？
• RQ2 適応的量子化を用いた分散型部分勾配法の収束速度は、未量子化手法と比べてどのように異なるか？
• RQ3 収束速度は量子化ビット数およびネットワークトポロジーにどのように依存するか？
• RQ4 適応的量子化戦略は、凸関数および強い凸関数の両方に対して収束を維持できるか？
• RQ5 回帰問題における二乗損失関数および絶対損失関数の両方において、この手法の収束特性はどのように変化するか？

主な発見

• 提案された適応的量子化手法は、量子化ビット数に依存する要因を除いて、未量子化分散型部分勾配法と同等の収束速度を達成する。
• 凸関数の場合、適応的量子化下での収束速度は、ビット数の対数的要因を除いて O(1/√t) であり、未量子化速度と一致する。
• 強い凸関数の場合、適応的量子化下での収束速度は、再びビット依存要因を除いて O(1/t) であり、未量子化速度と一致する。
• 収束バウンドは、ネットワークの代数的連結性および量子化ビット数に明示的に依存しており、トポロジーと帯域の影響が明確に示されている。
• 数値シミュレーションにより、二乗損失関数および絶対損失関数を用いた回帰問題において、適応的量子化手法が固定量子化手法よりも速くかつより安定して収束することが確認された。
• この手法は、従来の量子化分散アルゴリズムでしばしば収束を妨げる持続的量子化誤差を効果的に解消する。