[论文解读] Byzantine-resilient Decentralized Stochastic Gradient Descent

Shangwei Guo, Tianwei Zhang+5 more|arXiv (Cornell University)|Feb 20, 2020

Privacy-Preserving Technologies in Data参考文献 51被引用 5

一句话总结

本文提出Ubar，一种新型的拜占庭容错聚合规则，用于去中心化随机梯度下降，使良性节点能够过滤恶意更新，并在任意拜占庭攻击下保持模型正确性。Ubar在计算开销较低的情况下实现强大容错能力，在多种攻击类型和系统配置下，其收敛性和鲁棒性优于现有方法。

ABSTRACT

Decentralized learning has gained great popularity to improve learning efficiency and preserve data privacy. Each computing node makes equal contribution to collaboratively learn a Deep Learning model. The elimination of centralized Parameter Servers (PS) can effectively address many issues such as privacy, performance bottleneck and single-point-failure. However, how to achieve Byzantine Fault Tolerance in decentralized learning systems is rarely explored, although this problem has been extensively studied in centralized systems. In this paper, we present an in-depth study towards the Byzantine resilience of decentralized learning systems with two contributions. First, from the adversarial perspective, we theoretically illustrate that Byzantine attacks are more dangerous and feasible in decentralized learning systems: even one malicious participant can arbitrarily alter the models of other participants by sending carefully crafted updates to its neighbors. Second, from the defense perspective, we propose UBAR, a novel algorithm to enhance decentralized learning with Byzantine Fault Tolerance. Specifically, UBAR provides a Uniform Byzantine-resilient Aggregation Rule for benign nodes to select the useful parameter updates and filter out the malicious ones in each training iteration. It guarantees that each benign node in a decentralized system can train a correct model under very strong Byzantine attacks with an arbitrary number of faulty nodes. We conduct extensive experiments on standard image classification tasks and the results indicate that UBAR can effectively defeat both simple and sophisticated Byzantine attacks with higher performance efficiency than existing solutions.

研究动机与目标

• 研究去中心化学习系统中拜占庭攻击的可行性和严重性，其中不存在中央参数服务器。
• 解决去中心化学习中缺乏拜占庭容错机制的问题，与集中式系统中已广泛研究的情况形成对比。
• 设计一种防御机制，确保在存在任意数量拜占庭节点的网络中仍能正确训练模型。
• 开发一种高效的聚合规则，在去中心化环境中过滤恶意更新的同时保持高性能。
• 在各种攻击模型和系统配置下，评估所提方法的容错能力和效率。

提出的方法

• Ubar引入了一种统一的拜占庭容错聚合规则，使每个良性节点能够基于本地邻居比较识别并过滤恶意参数更新。
• 该方法通过计算节点自身模型更新与其邻居更新之间的差异，检测并排除表明拜占庭行为的异常值。
• 它假设已知良性邻居比例（$\rho_i$）以设定鲁棒性阈值，这是先前拜占庭防御文献中的常见假设。
• 该算法在每次训练迭代中运行，使节点即使在大量邻居被攻破的情况下，也能协作训练出正确模型。
• Ubar通过避免在所有邻居之间进行成对距离比较，实现计算高效，与DKrum和DBulyan不同。
• 它利用本地一致性检查检测对抗性更新，无需全局协调或模型重建。

实验结果

研究问题

• RQ1 与集中式系统相比，拜占庭攻击在去中心化学习系统中的严重性和可行性如何？
• RQ2 集中式系统中现有的拜占庭容错防御方法能否直接应用于去中心化学习环境？
• RQ3 去中心化系统中哪些关键漏洞使得单个恶意节点能够任意改变全局模型？
• RQ4 在存在任意数量拜占庭节点的情况下，去中心化系统能否维持模型正确性和收敛性？
• RQ5 在多种攻击类型下，所提出的防御方法Ubar与现有最先进防御方法相比，在容错能力和效率方面表现如何？

主要发现

• Ubar成功抵御了从简单到复杂的拜占庭攻击，包括能够绕过大多数集中式系统现有防御机制的Mhamdi攻击。
• 在CIFAR-10和MNIST数据集上，即使拜占庭节点比例高达50%，Ubar的收敛性能仍与基线完全一致，而所有基线方法在相同条件下均无法收敛。
• 在位翻转攻击下，Ubar在所有拜占庭比例下均达到与基线相同性能，表现出绝对的鲁棒性；而Dmedian和DBulyan在比例超过0.3时无法收敛。
• 由于其高效的本地比较机制，Ubar的聚合时间比DKrum快8倍，比DBulyan快30倍。
• BRIDGE和Dmedian在高拜占庭比例下（如CIFAR-10中比例为0.1）表现出较差的收敛性，而Ubar在所有测试配置下均保持稳定性能。
• 该方法在可接受的计算成本下实现了强大的拜占庭容错能力，使其在鲁棒性和效率方面成为所评估防御方法中的最优选择。