[论文解读] Bristle: Decentralized Federated Learning in Byzantine, Non-i.i.d. Environments

Joost Verbraeken, Martijn de Vos+1 more|arXiv (Cornell University)|Oct 21, 2021

Privacy-Preserving Technologies in Data被引用 5

一句话总结

Bristle 是一种用于去中心化联邦学习的中间件，通过迁移学习冻结非输出层，并使用基于距离的优先级排序器与基于性能的集成器，实现快速、拜占庭鲁棒的训练，适用于非独立同分布（non-i.i.d.）数据环境。它在拜占庭环境下实现了 95% 的准确率，与基线方法相比通信成本降低了 90%。

ABSTRACT

Federated learning (FL) is a privacy-friendly type of machine learning where devices locally train a model on their private data and typically communicate model updates with a server. In decentralized FL (DFL), peers communicate model updates with each other instead. However, DFL is challenging since (1) the training data possessed by different peers is often non-i.i.d. (i.e., distributed differently between the peers) and (2) malicious, or Byzantine, attackers can share arbitrary model updates with other peers to subvert the training process. We address these two challenges and present Bristle, middleware between the learning application and the decentralized network layer. Bristle leverages transfer learning to predetermine and freeze the non-output layers of a neural network, significantly speeding up model training and lowering communication costs. To securely update the output layer with model updates from other peers, we design a fast distance-based prioritizer and a novel performance-based integrator. Their combined effect results in high resilience to Byzantine attackers and the ability to handle non-i.i.d. classes. We empirically show that Bristle converges to a consistent 95% accuracy in Byzantine environments, outperforming all evaluated baselines. In non-Byzantine environments, Bristle requires 83% fewer iterations to achieve 90% accuracy compared to state-of-the-art methods. We show that when the training classes are non-i.i.d., Bristle significantly outperforms the accuracy of the most Byzantine-resilient baselines by 2.3x while reducing communication costs by 90%.

研究动机与目标

• 解决去中心化联邦学习（DFL）中拜占庭攻击与非独立同分布（non-i.i.d.）数据分布带来的挑战。
• 在不依赖中心化参数服务器的前提下，降低通信开销并加速收敛。
• 设计一种鲁棒的聚合机制，即使存在恶意节点提交任意更新，也能保持模型准确率。
• 在同伴具有异构、非 i.i.d. 数据分布的去中心化网络中实现高效训练。

提出的方法

• 使用深度迁移学习冻结神经网络的非输出层，以降低训练和通信成本。
• 使用快速基于距离的度量对传入的模型更新进行优先级排序，以识别潜在良性模型。
• 仅使用基于性能的集成器对每类中最优的模型进行集成，该集成器通过在本地测试集上评估模型准确率来实现。
• 在聚合过程中仅更新输出层，从而在保持模型一致性的同时最小化通信开销。
• 借鉴持续学习（CWR*）的概念，以处理同伴之间非 i.i.d. 的类别分布。
• 结合基于距离的优先级排序与每类性能评估，确保拜占庭鲁棒性，而无需完全依赖梯度相似性。

实验结果

研究问题

• RQ1 在数据在同伴之间非 i.i.d. 的情况下，去中心化联邦学习系统是否能在拜占庭攻击下保持高准确率？
• RQ2 如何在保持模型收敛性和鲁棒性的前提下，最小化 DFL 中的通信成本？
• RQ3 结合距离度量与基于性能的过滤的混合方法，是否能相比现有聚合规则提升拜占庭鲁棒性？
• RQ4 通过迁移学习冻结非输出层，在去中心化环境中能在多大程度上加速收敛？
• RQ5 在非 i.i.d. 数据条件下，Bristle 在拜占庭与非拜占庭环境下的性能与最先进方法相比如何？

主要发现

• Bristle 在拜占庭环境中实现了 95% 的测试准确率，优于所有评估的基线方法。
• 在非拜占庭环境下，Bristle 达到 90% 准确率所需的训练迭代次数比最先进方法减少 83%。
• 当数据为非 i.i.d. 时，Bristle 相比最鲁棒的基线方法，准确率提升了 2.3 倍。
• 在非 i.i.d. 数据条件下，Bristle 相比基线方法将通信成本降低了 90%。
• 基于距离的优先级排序与基于性能的集成相结合，可在不完全依赖梯度相似性的情况下，实现对恶意更新的高鲁棒性。
• Bristle 的设计通过仅更新输出层，即使在对抗性环境中也能实现快速收敛和低通信开销。