[論文レビュー] Adversarial training in communication constrained federated learning

Devansh Shah, Parijat Dube+2 more|arXiv (Cornell University)|Mar 1, 2021

Privacy-Preserving Technologies in Data参考文献 30被引用数 16

ひとこと要約

本稿では、通信制約下かつ非i.i.d.データ分布におけるフェデレーテッドラーニングにおいて、モデルのずれを低減し収束を向上させるために動的ローカルトレーニングスケジュールを用いる、新しいフェデレーテッドアドバーシャルトレーニングアルゴリズムであるFedDynATを提案する。FedAvgATなどのベースライン手法と比較して、自然な精度およびアドバーシャル精度を著しく向上させるとともに、ローカルモデル間の乖離を最小限に抑えることで収束時間を短縮する。

ABSTRACT

Federated learning enables model training over a distributed corpus of agent data. However, the trained model is vulnerable to adversarial examples, designed to elicit misclassification. We study the feasibility of using adversarial training (AT) in the federated learning setting. Furthermore, we do so assuming a fixed communication budget and non-iid data distribution between participating agents. We observe a significant drop in both natural and adversarial accuracies when AT is used in the federated setting as opposed to centralized training. We attribute this to the number of epochs of AT performed locally at the agents, which in turn effects (i) drift between local models; and (ii) convergence time (measured in number of communication rounds). Towards this end, we propose FedDynAT, a novel algorithm for performing AT in federated setting. Through extensive experimentation we show that FedDynAT significantly improves both natural and adversarial accuracy, as well as model convergence time by reducing the model drift.

研究の動機と目的

• 通信制約および非i.i.d.データ分布下でのフェデレーテッドラーニングにおけるアドバーシャルトレーニング（AT）の適用に伴う課題を調査すること。
• フェデレーテッドATにおける過剰なローカルエポック数（E）が、モデルのずれを増大させ、収束を遅くすることを同定すること。
• フェデレーテッドアドバーシャルトレーニングにおけるモデルのずれを軽減し、収束を加速する新しいアルゴリズムを設計すること。
• 自然精度およびアドバーシャル精度、収束速度、クライアント間のモデル類似度の観点から、FedDynATを最先端のフェデレーテッドラーニング手法と比較して評価すること。

提案手法

• FedDynATは、初期値E₀ = 50として、時間経過に伴いエポック数（E）を段階的に減少させる動的ローカルトレーニングスケジュール（E-スケジュール）を導入する。
• アルゴリズムは、E(t) = max(E₀ * γ^t, F_E) で定義される動的E-スケジュールを用い、通信ラウンドが進むにつれてローカルトレーニングを減少させる。ここでF_Eは最小閾値（例：F_E = 5）である。
• FedDyn（ローカルモデルがグローバルモデルに近づくように正則化する手法）を基盤とし、それをアドバーシャルトレーニングと統合することで、AT中におけるモデルのずれを低減する。
• クライアントではPGDベースのアドバーシャル例生成とSGDベースのモデル更新を用いてローカルでアドバーシャルトレーニングを実行し、その後重み付き平均を用いてモデルを集約する。
• モデルのずれは、層ごとの類似度を測定するSVCCA（チャネル別相関分析による特徴類似度）を用いて定量化される。
• 本手法は、NINなどのモデルを用いてCIFAR-10および他のデータセット上で評価され、FedAvgAT、FedCurvAT、FedAvgと比較される。

実験結果

リサーチクエスチョン

• RQ1 通信制約および非i.i.d.データ下におけるフェデレーテッドラーニングにおけるアドバーシャルトレーニングは、集中型トレーニングと比較してどのように動作するか？
• RQ2 フェデレーテッドアドバーシャルトレーニングにおいて、自然精度およびアドバーシャル精度が低下する原因は何か？
• RQ3 フェデレーテッドATにおけるローカルトレーニングエポック数（E）は、モデルのずれおよび収束時間にどのように影響するか？
• RQ4 動的ローカルトレーニングスケジュールは、フェデレーテッドアドバーシャルトレーニングにおけるモデルのずれを低減し、収束速度を向上させることができるか？
• RQ5 FedDynATは、モデル類似度、精度、収束時間の観点から、FedAvgATおよびFedCurvATと比較してどのように差をつけるか？

主な発見

• SVCCAスコアの上昇から、FedDynATはFedAvgATおよびFedCurvATと比較して顕著にモデルのずれを低減していることが示された。
• E=50の場合、FedAvgATは自然トレーニングのFedAvgと比較して、特に深層層（5～8層目）でより顕著なモデルのずれを示しており、これはアドバーシャルトレーニングがずれを悪化させることを示している。
• 非i.i.d.データを用いたCIFAR-10において、FedDynATはFedAvgATおよびFedCurvATよりも高い自然精度およびアドバーシャル精度を達成しており、より優れた耐性を示している。
• FedDynATにおける動的E-スケジュールは、ラウンドが進むにつれてローカルエポック数を減少させることで収束時間を短縮し、モデルの整合性を迅速に達成している。
• SVCCA分析により、出力に近い層（高層）ではずれが顕著に現れることが確認され、FedDynATがそのずれを効果的に抑制していることが裏付けられた。
• FedCurvATが固定E=50を用いても、FedDynATは精度および収束速度の両面で優れていることが示された。