[论文解读] Robust Federated Learning against both Data Heterogeneity and Poisoning Attack via Aggregation Optimization

Yueqi Xie, Weizhong Zhang+5 more|arXiv (Cornell University)|Nov 10, 2022

Privacy-Preserving Technologies in Data被引用 4

一句话总结

SmartFL 通过使用少量代理数据在子空间中进行微调，优化全局模型聚合，提出了一套统一的框架，以实现鲁棒的联邦学习。通过在客户端模型的单纯形内调节聚合权重，该方法在仅使用少量代理数据且计算成本较低的情况下，实现了对数据异质性和投毒攻击的最先进鲁棒性。

ABSTRACT

Non-IID data distribution across clients and poisoning attacks are two main challenges in real-world federated learning (FL) systems. While both of them have attracted great research interest with specific strategies developed, no known solution manages to address them in a unified framework. To universally overcome both challenges, we propose SmartFL, a generic approach that optimizes the server-side aggregation process with a small amount of proxy data collected by the service provider itself via a subspace training technique. Specifically, the aggregation weight of each participating client at each round is optimized using the server-collected proxy data, which is essentially the optimization of the global model in the convex hull spanned by client models. Since at each round, the number of tunable parameters optimized on the server side equals the number of participating clients (thus independent of the model size), we are able to train a global model with massive parameters using only a small amount of proxy data (e.g., around one hundred samples). With optimized aggregation, SmartFL ensures robustness against both heterogeneous and malicious clients, which is desirable in real-world FL where either or both problems may occur. We provide theoretical analyses of the convergence and generalization capacity for SmartFL. Empirically, SmartFL achieves state-of-the-art performance on both FL with non-IID data distribution and FL with malicious clients. The source code will be released.

研究动机与目标

• 解决现实联邦学习系统中数据异质性和投毒攻击的双重挑战。
• 开发一个统一框架，同时缓解上述两类问题，且不依赖启发式方法或任务特定设计。
• 通过在客户端模型张成的低维子空间中优化聚合，减少对大型代理数据集的依赖。
• 在存在恶意客户端和非独立同分布（non-IID）数据分布的情况下，确保稳定收敛和泛化能力。
• 通过仅限制优化对象为客户端模型权重，实现高效、可扩展的聚合，同时保持最低计算开销。

提出的方法

• 通过服务器收集的代理数据，寻找客户端模型最优凸组合，以优化全局模型聚合。
• 在客户端模型参数的单纯形内训练全局模型，将可调参数数量减少至客户端数量，与模型大小无关。
• 使用子空间训练技术，在代理数据上拟合全局模型，同时将更新约束在客户端模型的张成空间内。
• 在每轮通信中动态应用代理数据重新加权客户端贡献，提升对异常值和非IID数据的鲁棒性。
• 利用模式连通性洞察，证明该子空间包含高质量的全局模型。
• 结合知识蒸馏与集成logits，将方法扩展至异构模型架构。

实验结果

研究问题

• RQ1 单一聚合策略是否能稳健应对联邦学习中的数据异质性和投毒攻击？
• RQ2 通过在客户端模型的低维子空间内优化，是否能以极少量代理数据实现鲁棒性？
• RQ3 与全空间微调相比，基于子空间的聚合在泛化能力和收敛稳定性方面是否表现更优？
• RQ4 在极端数据非独立同分布分布和高攻击率下，该方法性能如何？
• RQ5 当客户端模型具有不同架构时，该方法是否仍能保持稳定性和有效性？

主要发现

• SmartFL 在非IID数据和投毒攻击基准测试中均达到最先进性能，优于 FedAVG、Sageflow、FLTrust 和 FedDF。
• 仅使用约100个代理样本，SmartFL 避免了过拟合并保持了高泛化能力，而全空间微调方法则难以避免。
• 该方法在高攻击率（高达70%）和极端数据异质性（α=0.01）下仍表现出稳定收敛和鲁棒性。
• 在 MNIST 和 CIFAR-10 上的实验表明，SmartFL 在所有攻击类型（包括全知攻击和标签翻转攻击）下均持续优于基线方法。
• 在异构架构（ResNet-8、MobileNet、ShuffleNet）下，SmartFL 的集成准确率高于 FedDF，证明了子空间优化在知识迁移方面的有效性。
• 基于子空间的方法确保了收敛性和泛化能力，其理论保证得到了实证验证的支持。