[論文レビュー] Innovation Compression for Communication-efficient Distributed Optimization with Linear Convergence

Jiaqi Zhang, Keyou You+1 more|arXiv (Cornell University)|May 14, 2021

Distributed Control Multi-Agent Systems参考文献 37被引用数 5

ひとこと要約

本稿では、意思決定変数とその推定値の差であるインノベーションベクトルを圧縮することで、線形収束を達成する通信効率の良い分散最適化アルゴリズム、COLDおよびDyna-COLDを提案する。$δ$-収縮圧縮器と、新しい動的スケーリング機構を活用することで、非圧縮手法と同等の収束速度を実現しながら、1ビット量子化器のようなバイアス付き圧縮器でさえも使用可能な低通信プロトコルを可能にする。

ABSTRACT

Information compression is essential to reduce communication cost in distributed optimization over peer-to-peer networks. This paper proposes a communication-efficient linearly convergent distributed (COLD) algorithm to solve strongly convex optimization problems. By compressing innovation vectors, which are the differences between decision vectors and their estimates, COLD is able to achieve linear convergence for a class of $δ$-contracted compressors. We explicitly quantify how the compression affects the convergence rate and show that COLD matches the same rate of its uncompressed version. To accommodate a wider class of compressors that includes the binary quantizer, we further design a novel dynamical scaling mechanism and obtain the linearly convergent Dyna-COLD. Importantly, our results strictly improve existing results for the quantized consensus problem. Numerical experiments demonstrate the advantages of both algorithms under different compressors.

研究の動機と目的

• ピアツーピアネットワーク上での分散最適化における高い通信コストの課題に対処し、収束速度を損なわずに効率的な圧縮を可能にすること。
• 特定の圧縮器でのみ動作するか、バイアスなしで確率的である必要がある圧縮演算子を必要とする先行手法の制限を克服すること。
• バイアスなしおよびバイアスありの$δ$-収縮圧縮器の両方で線形収束を達成すること。これには、1ビットバイナリ量子化器のような決定的量子化器も含まれる。
• 動的スケーリング機構を設計し、収束保証をより広い圧縮器のクラスに拡張することで、耐障害性と通信効率を向上させること。
• 量子化されたコンSENSUS問題の理論的境界を強化し、既存のレートよりも優れたレートを達成すること。

提案手法

• 意思決定変数とその推定値の差であるインノベーションベクトルを圧縮することで通信負荷を低減する分散アルゴリズム、COLDを提案する。
• 圧縮誤差が$δ \|\mathbf{x}\|^{2}$で有界な$δ$-収縮圧縮器（バイアスなしおよびバイアスありの両方）を用い、歪みを制御する。
• Dyna-COLDで導入された動的スケーリング機構により、バイアス付き圧縮器でも収束を維持するためのスケーリング係数を適応的に調整する。
• リャプノフ関数を用いた収束解析を行い、スぺクトルギャップ$\rho$および圧縮パラメータ$\delta$に依存する線形収束レートを導出する。
• COLDが$\delta = 0$のとき、非圧縮NIDS手法と同等の収束レートを達成することを示し、理想状態での性能劣化がないことを検証する。
• Dyna-COLDで安定性と収束を保証するためのステップサイズルール$s^k = 3\|X^1\|_{\text{max}} \cdot 0.99^k$を設計し、チューニングなしで動作可能にする。

(a) C1

実験結果

リサーチクエスチョン

• RQ1 一般の圧縮器クラス（バイアスありを含む）において、インノベーション圧縮を用いて分散最適化で線形収束を達成できるか？
• RQ2 圧縮は収束速度にどのように影響するか？ また、非圧縮ベースラインと同等のレートを維持できるか？
• RQ3 動的スケーリング機構により、バイアスなしでない、または確率的でない圧縮器に対しても線形収束を拡張できるか？
• RQ4 提案手法は、既存の量子化済みコンセンサスアルゴリズムと比較して、収束速度および通信コストの面で優れているか？
• RQ5 量子化コンセンサス問題における理論的収束レートは、CHOCO-GOSSIPのような先行研究と比較して改善できるか？

主な発見

• COLDは、バイアスなしおよびバイアスありの$δ$-収縮圧縮器の両方で線形収束を達成し、収束レートは$\mathcal{O}\big{(}\max\big{\{}\frac{L}{\mu},\frac{1}{(1-\delta)^2\rho}\big{\}}\log\frac{1}{\epsilon}\big{)}$である。
• $\delta = 0$のとき、COLDは非圧縮NIDSアルゴリズムと同等の収束レートを達成し、理想状態では圧縮による性能劣化がないことを確認する。
• Dyna-COLDは、1ビットバイナリ量子化器を含む、より広いクラスの圧縮器でも線形収束を達成でき、これは先行のバイアスなし確率的仮定では除外されていた。
• 数値実験では、1ビット量子化器を用いたDyna-COLDが最も低い通信コストを達成し、反復回数の観点からNIDSと同等の性能を示す。
• コンセンサス問題において、収束レートはCHOCO-GOSSIPの$\mathcal{O}(\frac{1}{(1-\delta)\rho^2}\log\frac{1}{\epsilon})$から$\mathcal{O}(\frac{1}{(1-\delta)\rho}\log\frac{1}{\epsilon})$に改善され、最高の既知のレートに一致する。
• Dyna-COLDはスケーリングパラメータ$s^k$の選択に対して頑健であり、チューニングなしでも高速な収束を維持する。

(b) C2