[论文解读] Federated Noisy Client Learning

Tam, Kahou, Li Li+3 more|arXiv (Cornell University)|Jun 24, 2021

Privacy-Preserving Technologies in Data参考文献 39被引用 8

一句话总结

该论文提出 Fed-NCL，一种鲁棒的联邦学习框架，通过估计数据质量和模型差异来识别噪声客户端，然后采用带惩罚项的逐层聚合与标签修正方法，减轻其负面影响。实验表明，在存在噪声客户端的情况下，Fed-NCL 将全局模型准确率最高提升 26.58%，尤其在非独立同分布（non-IID）和高噪声设置下表现显著。

ABSTRACT

Federated learning (FL) collaboratively trains a shared global model depending on multiple local clients, while keeping the training data decentralized in order to preserve data privacy. However, standard FL methods ignore the noisy client issue, which may harm the overall performance of the shared model. We first investigate critical issue caused by noisy clients in FL and quantify the negative impact of the noisy clients in terms of the representations learned by different layers. We have the following two key observations: (1) the noisy clients can severely impact the convergence and performance of the global model in FL, and (2) the noisy clients can induce greater bias in the deeper layers than the former layers of the global model. Based on the above observations, we propose Fed-NCL, a framework that conducts robust federated learning with noisy clients. Specifically, Fed-NCL first identifies the noisy clients through well estimating the data quality and model divergence. Then robust layer-wise aggregation is proposed to adaptively aggregate the local models of each client to deal with the data heterogeneity caused by the noisy clients. We further perform the label correction on the noisy clients to improve the generalization of the global model. Experimental results on various datasets demonstrate that our algorithm boosts the performances of different state-of-the-art systems with noisy clients. Our code is available on https://github.com/TKH666/Fed-NCL

研究动机与目标

• 研究噪声客户端对联邦学习收敛性及各模型层表征学习的负面影响。
• 解决噪声客户端加剧数据异质性的问题，因为在标准聚合方法失效的联邦学习环境中，数据异质性问题更加严重。
• 开发一种无需访问本地数据即可检测噪声客户端并减轻其影响的框架。
• 通过自适应聚合与噪声客户端上的标签修正，提升全局模型的泛化能力。
• 在独立同分布（IID）与非独立同分布（non-IID）数据划分下，验证 Fed-NCL 在多样化数据集与噪声分布下的有效性。

提出的方法

• Fed-NCL 通过利用本地训练动态推导出的可靠性评分，估计数据质量与模型差异，实现噪声客户端检测。
• 其采用鲁棒的逐层聚合策略，在全局模型更新过程中对噪声客户端的本地模型施加惩罚。
• 该框架在识别出的噪声客户端上引入标签修正机制，以提升泛化性能。
• 可靠性评分基于两个标准计算：模型收敛稳定性与训练轮次间梯度的一致性。
• 该方法在聚合过程中引入惩罚项，以降低噪声客户端模型的影响，尤其在深层网络层中更为显著。
• 该方法兼容资源受限客户端，避免使用重型辅助网络或重新训练。

实验结果

研究问题

• RQ1 噪声客户端的存在如何影响联邦学习模型的收敛性与性能？
• RQ2 为何全局模型的深层相比浅层更容易受到噪声客户端的影响？
• RQ3 能否仅通过模型与训练统计信息，在不访问本地数据的前提下实现可靠的客户端检测？
• RQ4 针对客户端的惩罚项进行的逐层聚合在减轻噪声客户端影响方面有多有效？
• RQ5 对检测到的噪声客户端实施标签修正，在多大程度上能提升全局模型的泛化能力？

主要发现

• 在存在噪声客户端的非独立同分布（non-IID）设置下，Fed-NCL 相较于标准 FedAvg，将全局模型准确率最高提升 26.58%。
• 消融实验证实，若移除对噪声客户端的惩罚机制，性能最高下降 26.58%，证明其在鲁棒聚合中的关键作用。
• 在高噪声场景（30% 客户端标签噪声）下，标签修正可带来最高达 13% 的性能增益。
• 若移除任一可靠性评分标准（公式 7 或 8），全局模型性能平均下降 6%，表明两者对检测准确率均有显著贡献。
• 在 CIFAR-10 数据集上，S1 噪声（p=0.7）条件下，Fed-NCL 在非独立同分布划分下达到 77.19% 的准确率，显著优于 FedAvg（53.50%）与 Trimm（60.87%）。
• 在非独立同分布的 MNIST 与 F-MNIST 数据集上，Fed-NCL 在 S1 噪声下分别达到 98.79% 与 88.19% 的准确率，显著优于 FedAvg（94.28% 与 75.48%）。