[論文レビュー] Federated Noisy Client Learning

Tam, Kahou, Li Li+3 more|arXiv (Cornell University)|Jun 24, 2021

Privacy-Preserving Technologies in Data参考文献 39被引用数 8

ひとこと要約

本稿では、データ品質とモデルの乖離を推定することでノイジークライアントを特定し、ペナルティ付きのレイヤーごとのアグリゲーションとラベル補正を適用する、耐障害性の高いフェデレーテッドラーニングフレームワーク、Fed-NCLを提案する。実験の結果、ノイジークライアントの状況下でも、グローバルモデルの精度が最大26.58%向上することが示された。特に非IIDおよび高ノイズ環境下で顕著な効果を発揮する。

ABSTRACT

Federated learning (FL) collaboratively trains a shared global model depending on multiple local clients, while keeping the training data decentralized in order to preserve data privacy. However, standard FL methods ignore the noisy client issue, which may harm the overall performance of the shared model. We first investigate critical issue caused by noisy clients in FL and quantify the negative impact of the noisy clients in terms of the representations learned by different layers. We have the following two key observations: (1) the noisy clients can severely impact the convergence and performance of the global model in FL, and (2) the noisy clients can induce greater bias in the deeper layers than the former layers of the global model. Based on the above observations, we propose Fed-NCL, a framework that conducts robust federated learning with noisy clients. Specifically, Fed-NCL first identifies the noisy clients through well estimating the data quality and model divergence. Then robust layer-wise aggregation is proposed to adaptively aggregate the local models of each client to deal with the data heterogeneity caused by the noisy clients. We further perform the label correction on the noisy clients to improve the generalization of the global model. Experimental results on various datasets demonstrate that our algorithm boosts the performances of different state-of-the-art systems with noisy clients. Our code is available on https://github.com/TKH666/Fed-NCL

研究の動機と目的

• ノイジークライアントがフェデレーテッドラーニングの収束およびモデル層ごとの表現学習に与える悪影響を調査すること。
• 標準的なアグリゲーション手法が失敗する、ノイジークライアントによって悪化するデータの非同一性の課題に対処すること。
• ローカルデータへのアクセスを必要とせず、ノイジークライアントを検出するとともにその影響を軽減するフレームワークを開発すること。
• ノイジークライアントに対して適応的アグリゲーションとラベル補正を用いることで、グローバルモデルの一般化性能を向上させること。
• IIDおよび非IIDデータパーティションの両方において、多様なデータセットおよびノイズ分布の下でFed-NCLの有効性を検証すること。

提案手法

• Fed-NCLは、ローカル学習のダイナミクスから導かれる信頼性スコアを用いて、データ品質とモデルの乖離を推定することで、ノイジークライアントを検出する。
• グローバルモデルの更新時に、ノイジークライアントからのローカルモデルの影響を抑えるためのロバストなレイヤーごとのアグリゲーション戦略を適用する。
• 検出されたノイジークライアントに対してラベル補正メカニズムを統合し、一般化性能を向上させる。
• 信頼性スコアは、2つの基準、すなわちモデルの収束安定性と訓練ラウンド間の勾配の一貫性に基づいて計算される。
• 特に深層ネットワークの深層部において、ノイジークライアントのモデル影響を低減するため、アグリゲーションプロセスにペナルティ項を導入する。
• リソース制限のあるクライアントとも互換性があり、重い補助ネットワークや再訓練を回避する。

実験結果

リサーチクエスチョン

• RQ1 ノイジークライアントの存在が、フェデレーテッドラーニングモデルの収束および性能に与える影響は何か？
• RQ2 なぜグローバルモデルの深層部は、浅層部よりもノイジークライアントの影響をより強く受けるのか？
• RQ3 ローカルデータにアクセスせずに、モデルおよび学習統計のみを用いて信頼性の高いクライアント検出が可能か？
• RQ4 クライアント固有のペナルティを伴うレイヤーごとのアグリゲーションは、ノイジークライアントの影響をどれほど効果的に軽減できるか？
• RQ5 検出されたノイジークライアントに対してラベル補正を施すことで、グローバルモデルの一般化性能はどの程度向上するか？

主な発見

• ノイジークライアントが存在する非IID環境下で、Fed-NCLは標準的なFedAvgと比較して、グローバルモデルの精度を最大26.58%向上させる。
• アブレーションスタディの結果、ノイジークライアントに対するペナルティを除去すると、性能が最大26.58%低下することが確認され、これがロバストアグリゲーションにおいて不可欠な役割を果たしていることが証明された。
• ラベル補正は、高ノイズ状況（30%のクライアントがノイズラベルを有する）において最大13%の性能向上をもたらす。
• 信頼性スコアの計算に用いる2つの基準（式7および式8）のいずれかを除去すると、グローバルモデル性能が平均6%低下する。両者が検出精度に顕著に寄与していることが示された。
• S1ノイズ（p=0.7）を有するCIFAR-10では、非IIDパーティション下でFed-NCLは77.19%の精度を達成し、FedAvg（53.50%）およびTrimm（60.87%）を大きく上回った。
• 非IIDのMNISTおよびF-MNISTでは、S1ノイズ下でFed-NCLはそれぞれ98.79%および88.19%の精度を達成し、FedAvg（94.28%および75.48%）を著しく上回った。