[论文解读] Dynamic Scheduling for Over-the-Air Federated Edge Learning with Energy Constraints

Yuxuan Sun, Sheng Zhou+2 more|arXiv (Cornell University)|May 31, 2021

Privacy-Preserving Technologies in Data参考文献 44被引用 5

一句话总结

该论文提出了一种面向空中联邦边缘学习的能量感知动态设备调度算法，通过联合优化通信与计算能耗，在设备能量约束下实现性能提升。利用带梯度范数估计的李雅普诺夫优化，该算法在非独立同分布（non-iid）数据和能耗限制下，使CIFAR-10的准确率提升4.9%，优于贪心基准方法，同时保持收敛稳定性。

ABSTRACT

Machine learning and wireless communication technologies are jointly facilitating an intelligent edge, where federated edge learning (FEEL) is a promising training framework. As wireless devices involved in FEEL are resource limited in terms of communication bandwidth, computing power and battery capacity, it is important to carefully schedule them to optimize the training performance. In this work, we consider an over-the-air FEEL system with analog gradient aggregation, and propose an energy-aware dynamic device scheduling algorithm to optimize the training performance under energy constraints of devices, where both communication energy for gradient aggregation and computation energy for local training are included. The consideration of computation energy makes dynamic scheduling challenging, as devices are scheduled before local training, but the communication energy for over-the-air aggregation depends on the l2-norm of local gradient, which is known after local training. We thus incorporate estimation methods into scheduling to predict the gradient norm. Taking the estimation error into account, we characterize the performance gap between the proposed algorithm and its offline counterpart. Experimental results show that, under a highly unbalanced local data distribution, the proposed algorithm can increase the accuracy by 4.9% on CIFAR-10 dataset compared with the myopic benchmark, while satisfying the energy constraints.

研究动机与目标

• 解决在严格设备能量约束下，同时包含通信与计算能耗的联邦边缘学习训练性能优化挑战。
• 设计一种动态调度算法，以考虑空中梯度聚合能耗对未知训练后梯度范数的依赖性。
• 将本地梯度范数估计整合到调度决策中，实现在训练前的主动能量感知设备选择。
• 理论上表征所提在线算法与离线最优基准之间的性能差距，同时考虑估计误差的影响。
• 在高度不平衡的数据环境中验证算法的有效性，特别是在能量预算受限的情况下。

提出的方法

• 使用李雅普诺夫优化联合最小化训练损失与能耗，构建漂移加惩罚目标函数。
• 提出一种估计漂移加惩罚算法，用预测值替代未知的真实梯度范数，以实现在线调度。
• 采用梯度范数估计模型，在训练前预测本地梯度的 $ l_2 $-范数，实现能量感知的设备选择。
• 通过将所提算法与离线最优解进行比较，推导理论性能边界，利用 $ ilde{y}_{n,t} $ 和 $ ilde{E}_{n,t} $ 考虑估计误差的影响。
• 对本地训练与空中聚合的能耗进行建模，并对每轮设备总能耗施加约束。
• 采用时间平均能量约束模型，其中 $ ar{E}_n $ 表示在 $ T $ 轮内每台设备的平均能耗预算。

实验结果

研究问题

• RQ1 当通信能耗依赖于未知的训练后梯度范数时，如何优化空中联邦边缘学习中的设备调度？
• RQ2 在存在估计误差的情况下，所提在线动态调度算法与离线最优基准之间的性能差距是多少？
• RQ3 能否通过联合优化计算与通信能耗，在严格设备能量约束下提升模型准确率？
• RQ4 与贪心调度策略相比，所提算法在非独立同分布（non-iid）数据分布下的表现如何？
• RQ5 在在线、能量受限的设置下，能否为收敛性与能耗合规性提供理论保证？

主要发现

• 在非独立同分布（non-iid）数据与能量约束条件下，所提算法相较贪心基准在CIFAR-10数据集上将模型准确率提升了4.9%。
• 所提在线算法与离线最优解之间的理论性能差距被限定为 $ O(T^2) $，其中 $ T $ 为训练轮数。
• 通过李雅普诺夫漂移分析证明，该算法确保所有设备的总能耗始终在预设预算范围内。
• 性能差距主要由估计误差主导，其上界与 $ heta_0 T^2 + T(T-1) heta_0 \text{sum}(\theta_n) $ 成正比，其中 $ \theta_n $ 反映梯度幅值的变化。
• 该算法通过基于预测梯度范数与当前队列积压的动态设备选择，保持了稳定性和收敛性。
• 仿真结果表明，该算法能有效应对高度不平衡的数据分布，而传统调度方法在该场景下难以维持高准确率。