[论文解读] Over-the-Air Federated Edge Learning with Error-Feedback One-Bit Quantization and Power Control

Yuding Liu, Dongzhu Liu+3 more|arXiv (Cornell University)|Mar 20, 2023

Privacy-Preserving Technologies in Data被引用 4

一句话总结

本文提出了一种用于空中联邦边缘学习的误差反馈单比特宽带数字聚合（EFOBDA）方法，结合单比特量化与误差反馈，以缓解收敛性能下降的问题。此外，还提出了一种优化的功率控制策略，在瞬时功率约束下最大化收敛速度，在图像分类任务中实现了比基线方案更快的收敛速度和更高的测试准确率。

ABSTRACT

Over-the-air federated edge learning (Air-FEEL) is a communication-efficient framework for distributed machine learning using training data distributed at edge devices. This framework enables all edge devices to transmit model updates simultaneously over the entire available bandwidth, allowing for over-the-air aggregation. A one-bit digital over-the-air aggregation (OBDA) scheme has been recently proposed, featuring one-bit gradient quantization at edge devices and majority-voting based decoding at the edge server. However, the low-resolution one-bit gradient quantization slows down the model convergence and leads to performance degradation. On the other hand, the aggregation errors caused by fading channels in Air-FEEL is still remained to be solved. To address these issues, we propose the error-feedback one-bit broadband digital aggregation (EFOBDA) and an optimized power control policy. To this end, we first provide a theoretical analysis to evaluate the impact of error feedback on the convergence of FL with EFOBDA. The analytical results show that, by setting an appropriate feedback strength, EFOBDA is comparable to the Air-FEEL without quantization, thus enhancing the performance of OBDA. Then, we further introduce a power control policy by maximizing the convergence rate under instantaneous power constraints. The convergence analysis and optimized power control policy are verified by the experiments, which show that the proposed scheme achieves significantly faster convergence and higher test accuracy in image classification tasks compared with the one-bit quantization scheme without error feedback or optimized power control policy.

研究动机与目标

• 解决在空中联邦边缘学习（Air-FEEL）中因单比特梯度量化导致的性能下降问题，该问题会减缓收敛速度。
• 通过引入误差反馈与优化的功率控制，缓解Air-FEEL中因无线信道衰落与噪声引起的聚合误差。
• 在有限带宽与功率约束下，提升分布式边缘学习的通信效率与模型收敛速度。
• 为所提出的带误差反馈的EFOBDA方案建立理论收敛性分析，以验证其有效性。
• 设计一种在瞬时功率约束下最大化收敛速率的功率控制策略，提升鲁棒性与性能。

提出的方法

• 引入误差反馈，在单比特量化后校正梯度更新方向，减少收敛性能下降。
• 提出EFOBDA方案：边缘设备进行单比特量化，通过信号叠加实现空中聚合，边缘服务器采用多数投票解码。
• 推导理论收敛界，表明在适当反馈强度下，EFOBDA的性能可与全精度Air-FEEL相媲美。
• 建立功率控制优化问题，以在瞬时功率约束下最大化收敛速率。
• 利用拉格朗日对偶法求解凸功率控制问题，推导出每个设备最优发射功率的闭式表达式。
• 将优化后的功率控制策略与EFOBDA集成，实现能效与学习性能之间的平衡。

实验结果

研究问题

• RQ1 误差反馈能否有效恢复单比特量化空中联邦学习中的收敛性能？
• RQ2 与无反馈的传统单比特量化相比，所提出的EFOBDA方案在收敛速度与准确率方面表现如何？
• RQ3 在Air-FEEL中，瞬时功率约束下使收敛速率最大化的最优功率控制策略是什么？
• RQ4 信道衰落与噪声如何影响全局模型更新？所提方案能否有效缓解这些影响？
• RQ5 误差反馈与优化功率控制的集成是否显著提升了图像分类任务中的测试准确率？

主要发现

• 理论分析表明，当反馈强度适当时，EFOBDA的收敛性能可与全精度Air-FEEL相媲美。
• 所提出的功率控制策略通过最小化信道衰落与噪声引起的失真，显著提升了收敛速率。
• 实验结果表明，结合优化功率控制的EFOBDA在收敛速度与测试准确率方面均优于无反馈的单比特量化或次优功率控制方案。
• 通过期望梯度范数的界，定量验证了收敛速率的提升，其量级为$\mathcal{O}(1/\sqrt{T})$。
• 误差反馈机制降低了全局梯度估计中的期望误差，误差范数的界为$\frac{2(1+\eta)(1-\delta)G^2}{\eta\delta\beta^2}$。
• 通过拉格朗日对偶法，优化后的功率控制策略获得了闭式解，每个设备的发射功率为$p_k^* = \frac{A h_k}{h_k^2 + \frac{2}{\eta^2 L \|\bm{\sigma}_1\|^2} \lambda_k^*}$。