[論文レビュー] Byzantine-Robust Variance-Reduced Federated Learning over Distributed Non-i.i.d. Data

Jie Peng, Zhaoxian Wu+2 more|arXiv (Cornell University)|Sep 17, 2020

Privacy-Preserving Technologies in Data参考文献 37被引用数 7

ひとこと要約

本稿では、非i.i.d.設定下で内部および外部のデータ非同一性を緩和するために、リサンプリング戦略とSAGAベースの分散低減を用いたByzantine耐性の高い分散学習手法を提案する。その後、幾何学的中央値集約を実行する。最適解の近傍への線形収束を達成し、学習誤差がByzantineワーカー数に明示的に依存する。非i.i.d.状況下で最先端手法を上回る性能を発揮する。

ABSTRACT

We consider the federated learning problem where data on workers are not independent and identically distributed (i.i.d.). During the learning process, an unknown number of Byzantine workers may send malicious messages to the central node, leading to remarkable learning error. Most of the Byzantine-robust methods address this issue by using robust aggregation rules to aggregate the received messages, but rely on the assumption that all the regular workers have i.i.d. data, which is not the case in many federated learning applications. In light of the significance of reducing stochastic gradient noise for mitigating the effect of Byzantine attacks, we use a resampling strategy to reduce the impact of both inner variation (that describes the sample heterogeneity on every regular worker) and outer variation (that describes the sample heterogeneity among the regular workers), along with a stochastic average gradient algorithm to gradually eliminate the inner variation. The variance-reduced messages are then aggregated with a robust geometric median operator. We prove that the proposed method reaches a neighborhood of the optimal solution at a linear convergence rate and the learning error is determined by the number of Byzantine workers. Numerical experiments corroborate the theoretical results and show that the proposed method outperforms the state-of-the-arts in the non-i.i.d. setting.

研究の動機と目的

• ワーカーのデータが非i.i.i.d.である状況下で、標準的な耐性集約ルールの有効性を損なうByzantine攻撃の課題に対処すること。
• 非i.i.i.d.設定下で、ワーカー内での変動（内部変動）とワーカー間での変動（外部変動）に起因する確率的勾配ノイズを低減すること。
• 悪意のあるメッセージを送信する未知の数のByzantineワーカーが存在する状況でも、収束性と精度を維持する耐性集約メカニズムを設計すること。
• 非i.i.i.d.データとByzantine攻撃下での理論的収束保証を確立し、Byzantineワーカー数に明示的な依存関係を設けること。

提案手法

• 各通常ワーカー内のサンプル非同一性（内部変動）と通常ワーカー間の非同一性（外部変動）の影響を軽減するために、リサンプリング戦略を採用する。
• SAGAアルゴリズムを適用し、各ワーカーに対して過去の勾配の累積平均を維持・更新することで、内部変動を完全に除去する。
• 各通常ワーカーに対して分散低減された確率的勾配推定値を生成し、その後、悪意のあるメッセージに耐性のあるロバストな幾何学的中央値演算子を用いて集約する。
• 収束性を分析するために、最適解からの距離と分散低減誤差項を組み込んだリャプノフ関数を導入する。
• 幾何学的中央値集約による誤差伝搬を制御するためのステップサイズ条件を導出する。
• 実用的な観点から計算コストと耐性のバランスを取るために、$ε$-近似幾何学的中央値を採用し、対応する誤差バウンドを提示する。

実験結果

リサーチクエスチョン

• RQ1 分散低減技術は、非i.i.i.d.データとByzantine攻撃の影響を効果的に緩和できるか？
• RQ2 リサンプリングとSAGAベースの分散低減の組み合わせは、Byzantineワーカーが存在する非i.i.i.d.設定下で、耐性と収束性を向上させるか？
• RQ3 Byzantine攻撃と非i.i.i.d.データ下での分散低減された分散学習手法の理論的収束速度は何か？
• RQ4 提案手法における学習誤差は、Byzantineワーカー数にどのように依存するか？
• RQ5 提案手法は、非i.i.i.d.データ環境下で、既存の最先端のByzantine耐性分散学習アルゴリズムを上回るか？

主な発見

• 提案手法は、非i.i.i.d.データとByzantine攻撃下でも、最適解の近傍への線形収束を達成する。
• 学習誤差はByzantineワーカー数に明示的に依存し、誤差項は$\mathcal{O}\left(\left(d + \frac{1-d}{R}\right)C_{s\alpha}^{2}\sigma^{2} + dC_{s\alpha}^{2}\delta^{2}\right)$のスケーリングを示す。
• 凸および非凸の分散学習問題において、最先端手法を上回る性能を発揮し、特に非i.i.i.d.データ環境下で顕著な優位性を示す。
• 理論的分析により、ステップサイズ条件$\gamma \leq \frac{\mu}{2\sqrt{10}J^{2}L^{2}C_{s\alpha}}$が、誤差の幾何的減少を伴う線形収束を保証することが確認された。
• 数値実験により理論的予測が検証され、分散低減がByzantine攻撃下で耐性と収束速度を顕著に向上させることを示した。
• 分散低減の後に幾何学的中央値集約を適用することで、Byzantineワーカーが共謀的かつ完全に情報を持つ状況でも、悪意のある勾配の影響を効果的に抑制できた。