[论文解读] Adversarial training in communication constrained federated learning

Devansh Shah, Parijat Dube+2 more|arXiv (Cornell University)|Mar 1, 2021

Privacy-Preserving Technologies in Data参考文献 30被引用 16

一句话总结

该论文提出 FedDynAT，一种新颖的联邦对抗训练算法，通过使用动态本地训练调度来减少通信受限、非独立同分布（non-iid）联邦学习中的模型漂移，并提升收敛速度。与基线方法（如 FedAvgAT）相比，该方法在自然准确率和对抗准确率方面均有显著提升，同时通过最小化本地模型间的差异，缩短了收敛时间。

ABSTRACT

Federated learning enables model training over a distributed corpus of agent data. However, the trained model is vulnerable to adversarial examples, designed to elicit misclassification. We study the feasibility of using adversarial training (AT) in the federated learning setting. Furthermore, we do so assuming a fixed communication budget and non-iid data distribution between participating agents. We observe a significant drop in both natural and adversarial accuracies when AT is used in the federated setting as opposed to centralized training. We attribute this to the number of epochs of AT performed locally at the agents, which in turn effects (i) drift between local models; and (ii) convergence time (measured in number of communication rounds). Towards this end, we propose FedDynAT, a novel algorithm for performing AT in federated setting. Through extensive experimentation we show that FedDynAT significantly improves both natural and adversarial accuracy, as well as model convergence time by reducing the model drift.

研究动机与目标

• 研究在通信受限和非独立同分布数据分布下，将对抗训练（AT）应用于联邦学习所面临的挑战。
• 识别出在联邦对抗训练中，过多的本地训练轮次（E）会导致模型漂移增加和收敛变慢。
• 设计一种新算法，以减轻联邦对抗训练中的模型漂移并加速收敛。
• 在自然准确率、对抗准确率、收敛速度以及客户端间模型相似性方面，评估 FedDynAT 与当前最先进的联邦学习方法的性能。

提出的方法

• FedDynAT 引入了一种动态本地训练轮次调度（E-schedule），随时间逐步减少本地训练轮次（E），初始值为 E₀ = 50，衰减因子 γ = 0.5。
• 该算法采用动态 E-schedule，定义为 E(t) = max(E₀ * γ^t, F_E)，其中 F_E 为最小阈值（例如 F_E = 5），以随着通信轮次的推进逐步减少本地训练。
• 该方法基于 FedDyn，一种通过正则化使本地模型保持接近全局模型的方法，并将其与对抗训练相结合，以在对抗训练过程中减少模型漂移。
• 该方法在客户端本地执行对抗训练，使用基于 PGD 的对抗样本生成和基于 SGD 的模型更新，随后通过加权平均进行模型聚合。
• 使用 SVCCA（基于通道相关性的特征相似性分析）量化模型漂移，该方法测量客户端模型之间的层间相似性。
• 该算法在 CIFAR-10 等数据集上使用 NIN 等模型进行评估，并与 FedAvgAT、FedCurvAT 和 FedAvg 进行比较。

实验结果

研究问题

• RQ1 在通信受限和非独立同分布数据下，联邦学习中的对抗训练性能与集中式训练相比如何？
• RQ2 为何联邦对抗训练中自然准确率和对抗准确率均下降？
• RQ3 本地训练轮次（E）的数量如何影响联邦 AT 中的模型漂移和收敛时间？
• RQ4 动态本地训练调度能否减少联邦对抗训练中的模型漂移并提升收敛速度？
• RQ5 FedDynAT 在模型相似性、准确率和收敛时间方面与 FedAvgAT 和 FedCurvAT 相比表现如何？

主要发现

• 与 FedAvgAT 和 FedCurvAT 相比，FedDynAT 显著减少了模型漂移，表现为客户端模型之间更高的 SVCCA 分数。
• 当 E=50 时，FedAvgAT 的模型漂移高于 FedAvg（自然训练），尤其是在深层（第5–8层），表明对抗训练会加剧模型漂移。
• 在非独立同分布数据的 CIFAR-10 上，FedDynAT 的自然准确率和对抗准确率均高于 FedAvgAT 和 FedCurvAT，证明其鲁棒性更强。
• FedDynAT 中的动态 E-schedule 通过随轮次减少本地训练轮次，缩短了收敛时间，促进了更快的模型对齐。
• SVCCA 分析证实，越接近输出层（高层）的特征表示漂移越明显，而 FedDynAT 有效缓解了这一问题。
• 即使 FedCurvAT 固定使用 E=50，FedDynAT 在准确率和收敛速度方面仍优于 FedCurvAT 和 FedAvgAT。