[论文解读] BEV-SGD: Best Effort Voting SGD for Analog Aggregation Based Federated Learning against Byzantine Attackers

Xin Fan, Yue Wang+2 more|arXiv (Cornell University)|Oct 18, 2021

Privacy-Preserving Technologies in Data参考文献 51被引用 4

一句话总结

本文提出 BEV-SGD，一种新颖的 Byzantine 抗性功率控制方案，用于基于空中模拟聚合的联邦学习（FLOA），其中所有工作者均以最大功率传输以增强鲁棒性。通过消除信道倒置并利用尽力而为的投票机制，与传统的信道倒置方法相比，BEV-SGD 在最坏情况的 Byzantine 攻击下实现了更优的收敛速率。

ABSTRACT

As a promising distributed learning technology, analog aggregation based federated learning over the air (FLOA) provides high communication efficiency and privacy provisioning under the edge computing paradigm. When all edge devices (workers) simultaneously upload their local updates to the parameter server (PS) through commonly shared time-frequency resources, the PS obtains the averaged update only rather than the individual local ones. While such a concurrent transmission and aggregation scheme reduces the latency and communication costs, it unfortunately renders FLOA vulnerable to Byzantine attacks. Aiming at Byzantine-resilient FLOA, this paper starts from analyzing the channel inversion (CI) mechanism that is widely used for power control in FLOA. Our theoretical analysis indicates that although CI can achieve good learning performance in the benign scenarios, it fails to work well with limited defensive capability against Byzantine attacks. Then, we propose a novel scheme called the best effort voting (BEV) power control policy that is integrated with stochastic gradient descent (SGD). Our BEV-SGD enhances the robustness of FLOA to Byzantine attacks, by allowing all the workers to send their local updates at their maximum transmit power. Under worst-case attacks, we derive the expected convergence rates of FLOA with CI and BEV power control policies, respectively. The rate comparison reveals that our BEV-SGD outperforms its counterpart with CI in terms of better convergence behavior, which is verified by experimental simulations.

研究动机与目标

• 解决基于空中模拟聚合的联邦学习（FLOA）在 Byzantine 攻击下的脆弱性问题，即恶意工作者可能破坏模型收敛。
• 识别信道倒置（CI）功率控制在防御 Byzantine 攻击方面的局限性，尽管其在良性场景下表现优异。
• 设计一种新的功率控制策略——最佳努力投票（BEV），通过允许所有工作者以最大功率传输，避免依赖个体梯度信息，从而增强鲁棒性。
• 理论上分析并比较在最坏情况 Byzantine 攻击下，CI 和 BEV 功率控制策略在 FLOA 中的收敛速率。
• 通过分析与仿真证明，BEV-SGD 在对抗性环境下相较于基于 CI 的 FLOA 具有更好的收敛行为与鲁棒性。

提出的方法

• 提出最佳努力投票（BEV）功率控制策略，所有工作者（包括 Byzantine 工作者）均以最大功率传输，以最大化信号强度与投票权重。
• 将 BEV 与随机梯度下降（SGD）结合，形成 BEV-SGD，实现在无需获取个体梯度值情况下的鲁棒聚合。
• 理论分析推导出在 CI 与 BEV 策略下 FLOA 的期望收敛速率，使用梯度范数、噪声方差与攻击幅度的界。
• 定义关键收敛指标：$ \omega_{BEV} $，即诚实与 Byzantine 工作者之间有效信号增益的差异；以及 $ \Omega_{BEV} $，误差界中的总方差项。
• 通过确保 $ \alpha \omega_{BEV} - \frac{\alpha^2 L}{2} \Omega_{BEV} > 0 $ 建立收敛条件，保证目标函数在期望下单调递减。
• 对 T 次迭代执行望远镜求和，推导出 $ O(1/\sqrt{T}) $ 的收敛速率，表明 BEV-SGD 在对抗性噪声与信道失真下具有鲁棒性。

实验结果

研究问题

• RQ1 尽管在良性环境中表现优异，信道倒置（CI）功率控制在 FLOA 中面对 Byzantine 攻击时表现如何？
• RQ2 在无法获取个体梯度信息的 FLOA 中，最大功率传输策略结合基于投票的聚合是否能提升 Byzantine 抗性？
• RQ3 在最坏情况的 Byzantine 攻击下，所提出的 BEV-SGD 方案在 FLOA 中的理论收敛速率是多少？
• RQ4 从期望目标函数下降与误差界的角度，BEV-SGD 的收敛行为与基于 CI 的 FLOA 相比如何？
• RQ5 哪些关键系统参数（如功率、信道增益、噪声等）影响 BEV-SGD 的收敛速率与鲁棒性？

主要发现

• BEV-SGD 实现了理论收敛速率 $ O(1/\sqrt{T}) $，误差界按 $ \frac{\frac{2L\Omega_{BEV}}{\bar{\alpha}\omega_{BEV}^{2}}(F(\mathbf{w}_0)-F(\mathbf{w}^*)) + \bar{\alpha}\left(\delta^{2} + \frac{1}{\Omega_{BEV}}\epsilon^{2}z^{2}\right)}{\sqrt{T}} $ 缩放，证明了渐近收敛性。
• 收敛条件 $ \alpha \omega_{BEV} - \frac{\alpha^2 L}{2} \Omega_{BEV} > 0 $ 确保了期望目标函数单调递减，验证了均值收敛性。
• 如推导的速率比较所示，BEV-SGD 在最坏情况 Byzantine 攻击下的收敛行为优于基于 CI 的 FLOA。
• 所提出的 BEV 功率控制策略消除了对个体梯度信息的依赖，适用于 FLOA 的模拟叠加模型。
• 理论分析确认，由于投票机制倾向于诚实梯度，BEV-SGD 即使在 Byzantine 工作者注入大规模扰动时仍能保持鲁棒性。
• 仿真结果验证了 BEV-SGD 在 Byzantine 攻击下仍能维持稳定的训练性能，而基于 CI 的方案显著退化。