[論文レビュー] Compressed Gradient Tracking for Decentralized Optimization with Linear Convergence.

Zhuorui Li, Yiwei Liao+2 more|arXiv (Cornell University)|Mar 25, 2021

Distributed Control Multi-Agent Systems参考文献 43被引用数 5

ひとこと要約

本稿では、勾配追跡と一般化された通信圧縮を組み合わせた、分散最適化のための圧縮勾配追跡アルゴリズムC-GTを提案する。強い凸性および滑らかさを満たす関数に対して線形収束を達成する。さらに、バイアス付き圧縮器を用いた効率性の向上を図るため、誤差フィードバックを導入したEF-C-GTを提案し、通信効率および収束速度において理論的・数値的優位性を示す。

ABSTRACT

Communication compression techniques are of growing interests for solving the decentralized optimization problem under limited communication, where the global objective is to minimize the average of local cost functions over a multi-agent network using only local computation and peer-to-peer communication. In this paper, we first propose a novel compressed gradient tracking algorithm (C-GT) that combines gradient tracking technique with communication compression. In particular, C-GT is compatible with a general class of compression operators that unifies both unbiased and biased compressors. We show that C-GT inherits the advantages of gradient tracking-based algorithms and achieves linear convergence rate for strongly convex and smooth objective functions. In the second part of this paper, we propose an error feedback based compressed gradient tracking algorithm (EF-C-GT) to further improve the algorithm efficiency for biased compression operators. Numerical examples complement the theoretical findings and demonstrate the efficiency and flexibility of the proposed algorithms.

研究の動機と目的

• 通信帯域の制限という課題に、通信圧縮と勾配追跡を統合することで対処する。
• 非バイアスおよびバイアス付き圧縮演算子の両方に対応する統一フレームワークを構築し、アルゴリズムの柔軟性を高める。
• ピアツーピア通信制約下で、強い凸性および滑らかさを満たす目的関数に対して線形収束を達成する。
• 提案されたEF-C-GTアルゴリズムにおいて、誤差フィードバックを用いてバイアス付き圧縮器の効率性を向上させる。

提案手法

• 勾配追跡と一般クラスの圧縮演算子を統合した、新規の圧縮勾配追跡アルゴリズムC-GTを提案する。
• 局所的情報とピアツーピア通信を用いて、グローバル勾配を推定する勾配追跡メカニズムを活用する。
• 非バイアスおよびバイアス付き圧縮演算子の両方に対応するようにアルゴリズムを設計し、より広範な適用可能性を実現する。
• 誤差フィードバックを組み込むことで、圧縮演算子がもたらすバイアスを是正するEF-C-GTを導入し、収束安定性を向上させる。
• 圧縮演算子が特定の有界相対誤差条件を満たすことを保証することで、線形収束レートを維持する。
• 中央集権的制御やパラメータサーバーを一切使用せず、局所計算とピアツーピア通信のみに依存する。

実験結果

リサーチクエスチョン

• RQ1 通信圧縮を勾配追跡と効果的に組み合わせることで、分散最適化における線形収束を維持できるか？
• RQ2 提案されたC-GTアルゴリズムは、非バイアスおよびバイアス付き圧縮演算子の両方でどのように動作するか？
• RQ3 分散環境でバイアス付き圧縮器を使用する際、誤差フィードバックが収束性能に与える影響は何か？
• RQ4 提案されたアルゴリズムは、既存手法と比較して、より速い収束および低い通信コストを達成できるか？

主な発見

• C-GTは、一般圧縮演算子下でも、強い凸性および滑らかさを満たす目的関数に対して線形収束を達成する。
• 圧縮演算子が有界相対誤差条件を満たす限り、バイアス付き圧縮演算子を使用しても収束保証が維持される。
• EF-C-GTは、誤差フィードバックにより蓄積誤差を低減することで、バイアス付き圧縮器の収束効率を向上させる。
• 数値実験により理論的考察が確認され、収束が速く、通信オーバーヘッドが低減することが示された。
• 提案されたアルゴリズムは、さまざまな圧縮タイプおよびネットワークトポロジーにおいて、柔軟性と頑健性を示した。
• 勾配追跡と圧縮の統合により、通信制限下でも効率的な分散最適化が可能になった。