[论文解读] Transmission Power Control for Over-the-Air Federated Averaging at Network Edge

Cao Xiaowen, Guangxu Zhu+2 more|arXiv (Cornell University)|Nov 10, 2021

Stochastic Gradient Optimization Techniques被引用 7

一句话总结

该论文提出了一种面向网络边缘的空中联邦平均（Air-FedAvg）传输功率控制方案，以减少聚合误差并提高训练效率。通过联合优化设备传输功率与边缘服务器去噪因子，该方法最小化了最优性差距并降低了训练延迟，实现了更快的收敛速度，与传统的基于数字正交多址接入（OMA）的FedAvg相比，延迟降低了整整一个数量级。

ABSTRACT

Over-the-air computation (AirComp) has emerged as a new analog power-domain non-orthogonal multiple access (NOMA) technique for low-latency model/gradient-updates aggregation in federated edge learning (FEEL). By integrating communication and computation into a joint design, AirComp can significantly enhance the communication efficiency, but at the cost of aggregation errors caused by channel fading and noise. This paper studies a particular type of FEEL with federated averaging (FedAvg) and AirComp-based model-update aggregation, namely over-the-air FedAvg (Air-FedAvg). We investigate the transmission power control to combat against the AirComp aggregation errors for enhancing the training accuracy and accelerating the training speed of Air-FedAvg. Towards this end, we first analyze the convergence behavior (in terms of the optimality gap) of Air-FedAvg with aggregation errors at different outer iterations. Then, to enhance the training accuracy, we minimize the optimality gap by jointly optimizing the transmission power control at edge devices and the denoising factors at edge server, subject to a series of power constraints at individual edge devices. Furthermore, to accelerate the training speed, we also minimize the training latency of Air-FedAvg with a given targeted optimality gap, in which learning hyper-parameters including the numbers of outer iterations and local training epochs are jointly optimized with the power control. Finally, numerical results show that the proposed transmission power control policy achieves significantly faster convergence for Air-FedAvg, as compared with benchmark policies with fixed power transmission or per-iteration mean squared error (MSE) minimization. It is also shown that the Air-FedAvg achieves an order-of-magnitude shorter training latency than the conventional FedAvg with digital orthogonal multiple access (OMA-FedAvg).

研究动机与目标

• 解决无线边缘网络中因信道衰落和噪声导致的空中联邦平均（Air-FedAvg）聚合误差问题。
• 通过在单个设备功率约束下联合优化传输功率与去噪因子，最小化最优性差距，从而提高训练准确率。
• 通过联合优化学习超参数与功率控制，最小化给定目标最优性差距下的延迟，从而加速训练速度。
• 展示所提出的功率控制策略相较于固定功率和逐轮最小均方误差（MSE）最小化基准方案在收敛速度与延迟方面的优越性。

提出的方法

• 建立一个凸优化问题，通过联合优化边缘设备的传输功率与边缘服务器的去噪因子，以最小化Air-FedAvg中的最优性差距。
• 利用拉格朗日对偶与椭球法求解不可微的对偶问题，实现最优功率控制策略的高效计算。
• 推导出每个设备与每轮迭代下的最优功率控制的闭式表达式，综合考虑信道增益、目标精度与功率约束。
• 将学习超参数（外层迭代次数与本地轮次）整合进优化过程，联合最小化在目标收敛精度下的训练延迟。
• 基于具有有界方差的随机梯度下降构建收敛性分析框架，对本地更新中的梯度噪声与模型漂移进行建模。
• 应用算术-几何平均不等式与利普希茨连续性假设，对局部梯度与全局梯度之间期望偏差进行上界估计。

实验结果

研究问题

• RQ1 在信道衰落与噪声条件下，传输功率控制如何影响Air-FedAvg的收敛行为（以最优性差距衡量）？
• RQ2 在单个设备功率约束下，传输功率与去噪因子的最优联合策略是什么，可使Air-FedAvg的最优性差距最小化？
• RQ3 如何通过联合优化学习超参数与功率控制，使给定目标最优性差距下的训练延迟最小化？
• RQ4 所提出的功率控制策略相较于固定功率与逐轮MSE最小化基准方案，在收敛速度与训练延迟方面表现如何？

主要发现

• 所提出的传输功率控制策略在Air-FedAvg中显著加快了收敛速度，相较于采用固定传输功率或逐轮最小均方误差优化的基准策略表现更优。
• 与传统的基于数字正交多址接入的FedAvg（OMA-FedAvg）相比，该方法将训练延迟降低了整整一个数量级。
• 联合优化传输功率与去噪因子能有效减小最优性差距，从而在相同训练时间内提升模型准确率。
• 采用拉格朗日对偶与椭球法，实现了最优功率控制策略的高效且可扩展的计算。
• 推导出的最优功率控制闭式解充分考虑了信道条件、设备特定约束与目标精度。
• 数值结果表明，所提方案在显著降低边缘AI训练中的通信与计算延迟的同时，仍能保持较高的模型准确率。