[論文レビュー] Bristle: Decentralized Federated Learning in Byzantine, Non-i.i.d. Environments

Joost Verbraeken, Martijn de Vos+1 more|arXiv (Cornell University)|Oct 21, 2021

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

Bristle は、転移学習による非出力層の凍結と、性能に基づく統合手法を用いることで、非 i.i.d. データ環境下でも高速かつ Byzantine 攻撃に耐性のある分散型フェデレーテッドラーニングのためのミドルウェアです。距離に基づく優先順位付けと性能に基づく統合手法を組み合わせ、モデル更新を安全に集約します。Byzantine 環境下でも 95% の精度を達成し、ベースラインと比較して通信コストを 90% 減少させます。

ABSTRACT

Federated learning (FL) is a privacy-friendly type of machine learning where devices locally train a model on their private data and typically communicate model updates with a server. In decentralized FL (DFL), peers communicate model updates with each other instead. However, DFL is challenging since (1) the training data possessed by different peers is often non-i.i.d. (i.e., distributed differently between the peers) and (2) malicious, or Byzantine, attackers can share arbitrary model updates with other peers to subvert the training process. We address these two challenges and present Bristle, middleware between the learning application and the decentralized network layer. Bristle leverages transfer learning to predetermine and freeze the non-output layers of a neural network, significantly speeding up model training and lowering communication costs. To securely update the output layer with model updates from other peers, we design a fast distance-based prioritizer and a novel performance-based integrator. Their combined effect results in high resilience to Byzantine attackers and the ability to handle non-i.i.d. classes. We empirically show that Bristle converges to a consistent 95% accuracy in Byzantine environments, outperforming all evaluated baselines. In non-Byzantine environments, Bristle requires 83% fewer iterations to achieve 90% accuracy compared to state-of-the-art methods. We show that when the training classes are non-i.i.d., Bristle significantly outperforms the accuracy of the most Byzantine-resilient baselines by 2.3x while reducing communication costs by 90%.

研究の動機と目的

• 分散型フェデレーテッドラーニング（DFL）における Byzantine 攻撃と非 i.i.d. データ分布の課題に対処すること。
• 中央のパrameter サーバーに依存せずに、通信オーバーヘッドを低減し、収束を加速すること。
• 悪意あるピアが任意の更新を送信しても、モデルの精度を維持できるレジリエントな集約メカニズムを設計すること。
• ピアが異種で非 i.i.d. のデータ分布を持つ分散ネットワークでも、効率的な学習を可能にすること。

提案手法

• 深層転移学習を用いてニューラルネットワークの非出力層を凍結し、学習コストと通信コストを削減すること。
• 高速な距離ベースのメトリクスを用いて、到着したモデル更新の優先順位を付け、潜在的に健全なモデルを特定すること。
• 各クラスごとに最もパフォーマンスの良いモデルのみを、ローカルテストセット上のモデル精度を評価する性能ベースの統合手法で統合すること。
• 集約時に出力層のみを更新することで、通信オーバーヘッドを最小限に抑えつつ、モデルの一貫性を維持すること。
• 継続的学習（CWR*）の概念を活用し、ピア間で非 i.i.d. なクラス分布に対処すること。
• 距離ベースの優先順位付けとクラスごとのパフォーマンス評価を組み合わせることで、勾配類似度に依存せずに Byzantine 攻撃に耐性を持つこと。

実験結果

リサーチクエスチョン

• RQ1 ピア間でデータが非 i.i.d. である状況下でも、Byzantine 攻撃に対して高い精度を維持できる分散型フェデレーテッドラーニングシステムは実現可能か？
• RQ2 モデルの収束性とレジリエンスを保ちながら、DFL における通信コストをどのように最小化できるか？
• RQ3 距離メトリクスとパフォーマンスベースのフィルタリングを組み合わせたハイブリッド手法は、従来の集約ルールと比較して Byzantine 攻撃への耐性を向上させられるか？
• RQ4 転移学習による非出力層の凍結は、分散環境下で収束をどの程度加速できるか？
• RQ5 非 i.i.d. データ環境下で、Bristle の性能は、状態の最良の手法と比較してどの程度優れているか？

主な発見

• Bristle は、Byzantine 環境下でも 95% のテスト精度を達成し、評価されたすべてのベースラインを上回っています。
• Byzantine でない環境下では、状態の最良の手法と比較して、90% の精度に到達するまでの学習イテレーションを 83% 減少させています。
• データが非 i.i.d. である場合、Bristle は最も Byzantine 攻撃に耐性のあるベースラインと比較して、精度を 2.3 倍に向上させています。
• 非 i.i.d. データ条件下で、Bristle はベースライン手法と比較して通信コストを 90% 減少させています。
• 距離ベースの優先順位付けと性能ベースの統合の組み合わせにより、勾配類似度に依存せずに、悪意ある更新に対して高い耐性を持つことが可能になっています。
• Bristle の設計により、出力層のみを更新することで、悪意ある環境下でも高速な収束と低通信オーバーヘッドを実現しています。