[論文レビュー] BEER: Fast $O(1/T)$ Rate for Decentralized Nonconvex Optimization with Communication Compression

Haoyu Zhao, Boyue Li+3 more|arXiv (Cornell University)|Jan 31, 2022

Stochastic Gradient Optimization Techniques被引用数 6

ひとこと要約

本稿では、勾配追跡と量子化通信を組み合わせることで、通信圧縮を伴う分散非凸最適化アルゴリズムであるBEERを提案する。この手法は、勾配や非類似性に関する強い仮定を排除し、任意のデータ非均一性下でも、圧縮されていない手法と同等のO(1/T)収束速度を達成する。

ABSTRACT

Communication efficiency has been widely recognized as the bottleneck for large-scale decentralized machine learning applications in multi-agent or federated environments. To tackle the communication bottleneck, there have been many efforts to design communication-compressed algorithms for decentralized nonconvex optimization, where the clients are only allowed to communicate a small amount of quantized information (aka bits) with their neighbors over a predefined graph topology. Despite significant efforts, the state-of-the-art algorithm in the nonconvex setting still suffers from a slower rate of convergence $O((G/T)^{2/3})$ compared with their uncompressed counterpart, where $G$ measures the data heterogeneity across different clients, and $T$ is the number of communication rounds. This paper proposes BEER, which adopts communication compression with gradient tracking, and shows it converges at a faster rate of $O(1/T)$. This significantly improves over the state-of-the-art rate, by matching the rate without compression even under arbitrary data heterogeneity. Numerical experiments are also provided to corroborate our theory and confirm the practical superiority of BEER in the data heterogeneous regime.

研究の動機と目的

• クライアント間の効率的かつ低帯域幅な通信を可能にすることで、大規模な分散機械学習における通信ボトルneckを解消すること。
• 従来の通信圧縮付きアルゴリズムが非凸設定で通常O((G/T)^{2/3})のスケーリングを示す遅い収束速度を克服すること。
• 勾配の有界性や勾配非類似性といった強い仮定を排除することで、先行手法の適用範囲を制限する要因を解消すること。
• クライアント間の任意のデータ非均一性下でも、圧縮されていないベースラインと同等の収束速度を達成すること。
• ポリャク＝ロジャチェフスキー（PL）条件の下で線形収束を確立し、アルゴリズムの理論的保証を拡張すること。

提案手法

• 分散ネットワークにおいて勾配追跡と通信圧縮を統合する新規アルゴリズムBEERを導入する。
• 収束解析にリャプノフ関数を用い、モデル誤差、勾配追跡誤差、および分散を含む項を組み込む。
• 送信前に勾配を量子化するための圧縮演算子を適用し、通信コストを低減しながら収束性を維持する。
• 線形システム解析を用いて、選択したリャプノフ関数の下で収束を保証する正の定数の存在を検証する。
• 行列不等式系を解くことで収束境界を導出し、各反復でリャプノフ関数が減少することを保証する。
• ステップサイズや圧縮パラメータなどのアルゴリズムパラメータを調整することで、非凸条件ではO(1/T)、PL条件では線形収束速度を確立する。

実験結果

リサーチクエスチョン

• RQ1 分散非凸最適化における通信圧縮は、圧縮されていない手法と同等のO(1/T)収束速度を達成できるか？
• RQ2 提案されたアルゴリズムBEERは、勾配の有界性や勾配非類似性といった強い仮定を排除できるか？
• RQ3 圧縮を伴う勾配追跡は、非凸設定下で従来の圧縮付き分散アルゴリズムよりも高速な収束を実現できるか？
• RQ4 ポリャク＝ロジャチェフスキー（PL）条件下でのBEERの収束挙動はいかなるものか？
• RQ5 BEERは、実際のデータ非均一性下で先行手法と比較してどのように性能を発揮するか？

主な発見

• BEERは非凸設定下でO(1/T)の収束速度を達成し、圧縮付き分散最適化における従来の最先端のO((G/T)^{2/3})の収束速度を著しく上回る。
• クライアント間の任意のデータ非均一性下でも、BEERの収束速度は圧縮されていない手法と同等であり、Gはクライアント間のデータ非類似性を測る指標である。
• ポリャク＝ロジャチェフスキー（PL）条件下では、BEERは線形収束を示し、強い凸性を仮定しなくても高速な局所収束を実現する。
• 理論的解析により、BEERは先行研究に見られる勾配の有界性や非類似性の有界性仮定を排除できることを確認した。
• 実世界のデータセットを用いた数値実験により、BEERの実用的優位性とデータ非均一性下での競争力ある性能が確認された。
• アルゴリズムの収束は圧縮に対してロバストであり、一般の圧縮演算子（有界な分散を有する）に対しても理論的保証が成り立つ。