[论文解读] BROADCAST: Reducing Both Stochastic and Compression Noise to Robustify Communication-Efficient Federated Learning

Heng Zhu, Qing Ling|arXiv (Cornell University)|Apr 14, 2021

Privacy-Preserving Technologies in Data参考文献 58被引用 4

一句话总结

本文提出 BROADCAST，一种新型的拜占庭鲁棒联邦学习算法，通过梯度差值压缩降低压缩噪声，通过基于 SAGA 的方差减少降低随机噪声。即使在存在任意拜占庭攻击且使用压缩梯度的情况下，该算法仍能实现线性收敛至最优解的邻域，且渐近误差与最先进的无压缩方法相当。

ABSTRACT

Communication between workers and the master node to collect local stochastic gradients is a key bottleneck in a large-scale federated learning system. Various recent works have proposed to compress the local stochastic gradients to mitigate the communication overhead. However, robustness to malicious attacks is rarely considered in such a setting. In this work, we investigate the problem of Byzantine-robust compressed federated learning, where the attacks from Byzantine workers can be arbitrarily malicious. We theoretically point out that different to the attacks-free compressed stochastic gradient descent (SGD), its vanilla combination with geometric median-based robust aggregation seriously suffers from the compression noise in the presence of Byzantine attacks. In light of this observation, we propose to reduce the compression noise with gradient difference compression so as to improve the Byzantine-robustness. We also observe the impact of the intrinsic stochastic noise caused by selecting random samples, and adopt the stochastic average gradient algorithm (SAGA) to gradually eliminate the inner variations of regular workers. We theoretically prove that the proposed algorithm reaches a neighborhood of the optimal solution at a linear convergence rate, and the asymptotic learning error is in the same order as that of the state-of-the-art uncompressed method. Finally, numerical experiments demonstrate the effectiveness of the proposed method.

研究动机与目标

• 为解决在拜占庭攻击下压缩联邦学习中因压缩噪声导致防御性能下降的问题。
• 联合降低来自小批量采样产生的随机噪声和来自梯度量化或稀疏化的压缩噪声。
• 设计一种通信高效的算法，无需事先知晓拜占庭工作者的比例，仍能保持高鲁棒性。
• 理论上证明算法能线性收敛至解的邻域，且误差与无压缩方法相当。
• 通过实证验证，所提方法在多种拜占庭攻击下优于现有鲁棒且压缩的方法。

提出的方法

• 应用梯度差值压缩以减少压缩梯度中由量化或稀疏化引入的噪声。
• 集成 SAGA 算法，逐步消除普通工作者梯度中的内部波动（即随机噪声）。
• 采用基于几何中位数的聚合方法，以鲁棒方式处理拜占庭工作者发送的恶意消息。
• 使用误差反馈以减轻非均匀压缩带来的偏差，尤其在 top-k 稀疏化下表现更优。
• 理论分析基于李雅普诺夫函数，证明在有界随机梯度和压缩条件下可实现线性收敛。
• 推导收敛界，表明算法以线性速度收敛，且渐近误差与无压缩方法处于同一数量级。

实验结果

研究问题

• RQ1 与无攻击设置相比，压缩噪声在压缩联邦学习中如何削弱拜占庭鲁棒性？
• RQ2 在存在拜占庭攻击的情况下，梯度差值压缩是否能有效降低压缩噪声？
• RQ3 基于 SAGA 的方差减少在拜占庭鲁棒训练中，能在多大程度上消除本地梯度中的随机噪声？
• RQ4 压缩噪声降低与方差减少的结合是否能实现线性收敛并保持低渐近误差？
• RQ5 在各种拜占庭攻击下，所提方法与 SignSGD 和梯度范数阈值化等现有方法相比表现如何？

主要发现

• 所提 BROADCAST 算法在存在拜占庭攻击且使用压缩梯度的情况下，实现了对最优解邻域的线性收敛。
• 渐近学习误差与最先进的无压缩方法处于同一数量级，表明压缩带来的性能下降可忽略不计。
• 数值实验表明，BROADCAST 有效防御了高斯攻击、符号翻转攻击和零梯度攻击，在非平凡攻击模式下优于 SignSGD 和梯度范数阈值化方法。
• 误差反馈在使用如 top-k 稀疏化等有偏压缩器时，成功缓解了压缩噪声，使鲁棒训练中实现‘免费压缩’成为可能。
• 该算法无需事先知晓拜占庭工作者的比例，只要其比例小于 1/2 即可，因此比基于阈值的方法更具实用性。
• 理论分析证实，梯度差值压缩与基于 SAGA 的方差减少相结合，可在对抗性条件下实现稳定收敛且误差有界。