[论文解读] Federated Variance-Reduced Stochastic Gradient Descent with Robustness to Byzantine Attacks

Zhaoxian Wu, Qing Ling+2 more|arXiv (Cornell University)|Dec 29, 2019

Stochastic Gradient Optimization Techniques参考文献 36被引用 15

一句话总结

该论文提出 Byrd-SAGA，一种拜占庭鲁棒的联邦学习算法，通过结合 SAGA 的方差减少与几何中位数聚合，提升对恶意梯度攻击的鲁棒性。通过减少随机梯度噪声，Byrd-SAGA 能够更好地区分恶意更新与自然梯度波动，实现线性收敛至最优解的邻域，其误差仅取决于拜占庭工作者的数量。

ABSTRACT

This paper deals with distributed finite-sum optimization for learning over networks in the presence of malicious Byzantine attacks. To cope with such attacks, most resilient approaches so far combine stochastic gradient descent (SGD) with different robust aggregation rules. However, the sizeable SGD-induced stochastic gradient noise makes it challenging to distinguish malicious messages sent by the Byzantine attackers from noisy stochastic gradients sent by the 'honest' workers. This motivates us to reduce the variance of stochastic gradients as a means of robustifying SGD in the presence of Byzantine attacks. To this end, the present work puts forth a Byzantine attack resilient distributed (Byrd-) SAGA approach for learning tasks involving finite-sum optimization over networks. Rather than the mean employed by distributed SAGA, the novel Byrd- SAGA relies on the geometric median to aggregate the corrected stochastic gradients sent by the workers. When less than half of the workers are Byzantine attackers, the robustness of geometric median to outliers enables Byrd-SAGA to attain provably linear convergence to a neighborhood of the optimal solution, with the asymptotic learning error determined by the number of Byzantine workers. Numerical tests corroborate the robustness to various Byzantine attacks, as well as the merits of Byrd- SAGA over Byzantine attack resilient distributed SGD.

研究动机与目标

• 解决在拜占庭攻击下，联邦学习中恶意梯度与高方差随机梯度难以区分的挑战。
• 减少随机梯度噪声，以提升在分布式优化中对拜占庭更新的可检测性。
• 设计一种鲁棒的聚合机制，即使少于一半的工作者被攻破，也能保持收敛性。
• 在最优解的稳定邻域内实现线性收敛，其渐近误差仅受拜占庭工作者数量的限制。
• 在凸与非凸设置下，与标准拜占庭鲁棒 SGD 及小批量 SGD 相比，展现出更优的鲁棒性与效率。

提出的方法

• 将 SAGA 算法适配于分布式有限和优化，通过梯度修正实现每个工作者的方差减少。
• 用几何中位数聚合替代标准 SAGA 中的均值聚合，以增强对异常值的鲁棒性。
• 由主节点收集各工作者的校正随机梯度，并计算其几何中位数以更新模型。
• 确保每个工作者维护过去梯度的本地内存，以使用 SAGA 更新规则计算校正梯度。
• 利用几何中位数对异常值的鲁棒性，即使在恶意消息较大或被敌意构造时，也能有效抑制。
• 在少于一半工作者为拜占庭的假设下，证明算法可线性收敛至最优解的邻域。

实验结果

研究问题

• RQ1 随机梯度中的方差减少是否能提升联邦学习中对拜占庭攻击的可检测性？
• RQ2 在 SAGA 中以几何中位数替代均值聚合，是否能增强对拜占庭对手的鲁棒性？
• RQ3 在拜占庭攻击下，经方差减少与鲁棒聚合的联邦算法，其渐近收敛行为如何？
• RQ4 此类系统中，学习误差如何随拜占庭工作者数量而变化？
• RQ5 所提方法在不同攻击类型下，是否能在收敛性与鲁棒性方面超越标准拜占庭鲁棒 SGD？

主要发现

• Byrd-SAGA 实现了向最优解邻域的线性收敛，其渐近学习误差仅由拜占庭工作者数量决定。
• 当所有诚实工作者均可访问完整数据集时（即 δ² = 0），Byrd-SAGA 的渐近误差消失，而拜占庭鲁棒 SGD 与 BSGD 则不然。
• 在 IJCNN1 数据集的实验中，采用几何中位数聚合的 Byrd-SAGA 在高斯攻击、符号翻转攻击与零梯度攻击下，均优于 SGD 与 BSGD。
• 在符号翻转与零梯度攻击下，采用 Krum 聚合的 Byrd-SAGA 表现最佳，而几何中位数也展现出强大的鲁棒性。
• 在 MNIST 数据集上，采用几何中位数聚合的 Byrd-SAGA 在零梯度攻击下达到 92.4% 的准确率，显著优于 SGD（26.2%）与采用均值聚合的 BSGD（81.5%）。
• Byrd-SAGA 的每次迭代计算成本低于拜占庭鲁棒 BSGD，同时保持了更优的鲁棒性与收敛稳定性。