[論文レビュー] BROADCAST: Reducing Both Stochastic and Compression Noise to Robustify Communication-Efficient Federated Learning

Heng Zhu, Qing Ling|arXiv (Cornell University)|Apr 14, 2021

Privacy-Preserving Technologies in Data参考文献 58被引用数 4

ひとこと要約

本稿では、勾配差分圧縮による圧縮ノイズの低減とSAGAベースの分散低減による確率的ノイズの低減を両立させる、新しいByzantine耐性を持つ分散学習アルゴリズムBROADCASTを提案する。任意のByzantine攻撃下でも勾配圧縮が行われる状況において、最適解の近傍への線形収束を達成し、非圧縮手法と同等の漸近的誤差を示す。

ABSTRACT

Communication between workers and the master node to collect local stochastic gradients is a key bottleneck in a large-scale federated learning system. Various recent works have proposed to compress the local stochastic gradients to mitigate the communication overhead. However, robustness to malicious attacks is rarely considered in such a setting. In this work, we investigate the problem of Byzantine-robust compressed federated learning, where the attacks from Byzantine workers can be arbitrarily malicious. We theoretically point out that different to the attacks-free compressed stochastic gradient descent (SGD), its vanilla combination with geometric median-based robust aggregation seriously suffers from the compression noise in the presence of Byzantine attacks. In light of this observation, we propose to reduce the compression noise with gradient difference compression so as to improve the Byzantine-robustness. We also observe the impact of the intrinsic stochastic noise caused by selecting random samples, and adopt the stochastic average gradient algorithm (SAGA) to gradually eliminate the inner variations of regular workers. We theoretically prove that the proposed algorithm reaches a neighborhood of the optimal solution at a linear convergence rate, and the asymptotic learning error is in the same order as that of the state-of-the-art uncompressed method. Finally, numerical experiments demonstrate the effectiveness of the proposed method.

研究の動機と目的

• 圧縮勾配が用いられる状況下で、圧縮ノイズが防御性能を低下させるという、Byzantine攻撃下における圧縮分散学習の耐性不足に対処すること。
• ミニバッチサンプリングに起因する確率的ノイズと、勾配量子化やスパース化に起因する圧縮ノイズを同時に低減すること。
• Byzantineワーカーの割合に関する事前知識がなくても、高い耐性を維持できる通信効率の高いアルゴリズムを設計すること。
• 非圧縮手法と同等の誤差領域に線形収束することを理論的に証明すること。
• 提案手法が、多様なByzantine攻撃下で既存の耐性あり・圧縮あり手法を上回ることを実験的に検証すること。

提案手法

• 勾配差分圧縮を適用して、勾配圧縮に起因するノイズ（量子化やスパース化によるもの）を低減する。
• SAGAアルゴリズムを統合し、通常のワーカーの勾配における内側のばらつき（確率的ノイズ）を段階的に除去する。
• 幾何学的中央値に基づく集約手法を用いて、Byzantineワーカーからの悪意あるメッセージを耐性的に処理する。
• 非一様圧縮、特にtop-kスパース化において生じるバイアスを低減するため、誤差フィードバックを採用する。
• 有界な確率的勾配と圧縮の下で線形収束を確立するために、リャプノフ関数を用いた理論的分析を行う。
• 収束限界を導出し、非圧縮手法と同等のオーダーの漸近的誤差を伴う線形収束が達成されることを示す。

実験結果

リサーチクエスチョン

• RQ1 圧縮ノイズは、攻撃なしの状況と比較して、圧縮分散学習におけるByzantine耐性をどの程度劣化させるか？
• RQ2 Byzantine攻撃が存在する中で、勾配差分圧縮は圧縮ノイズを効果的に低減できるか？
• RQ3 SAGAベースの分散低減は、Byzantine耐性学習における局所勾配の確率的ノイズをどの程度低減できるか？
• RQ4 圧縮低減と分散低減の組み合わせにより、低漸近的誤差を伴う線形収束が達成できるか？
• RQ5 提案手法は、SignSGD や勾配ノルムしきい値法といった既存手法と比較して、多様なByzantine攻撃下でどの程度優れているか？

主な発見

• 提案されたBROADCASTアルゴリズムは、圧縮勾配を用いた状況下でも、最適解の近傍への線形収束を達成する。
• 漸近的学習誤差は、最先端の非圧縮手法と同等のオーダーであり、圧縮に起因する性能劣化が最小限であることを示している。
• 数値実験の結果、BROADCASTはガウス分布型、符号反転型、ゼロ勾配型のByzantine攻撃に対して効果的に防御し、非自明な攻撃パターン下でSignSGD や勾配ノルムしきい値法を上回ることを示した。
• 誤差フィードバックは、top-kスパース化のようなバイアスを持つ圧縮器に対しても、圧縮ノイズを効果的に低減でき、耐性学習における「圧縮の自由化」を可能にした。
• Byzantineワーカーの割合に関する事前知識が不要であり、1/2未満であれば問題ないため、しきい値ベースの手法よりも実用的である。
• 理論的分析により、勾配差分圧縮とSAGAベースの分散低減の組み合わせが、悪意ある条件下でも誤差が有界な安定した収束をもたらすことが確認された。