[论文解读] Energy-Efficient Radio Resource Allocation for Federated Edge Learning

Qunsong Zeng, Yuqing Du+2 more|arXiv (Cornell University)|Jul 13, 2019

Privacy-Preserving Technologies in Data参考文献 5被引用 39

一句话总结

论文通过联合优化带宽分配和设备调度来实现FEEL的能源高效无线资源管理，在确保学习速度的同时最小化总能耗。最优带宽分配偏向较弱的设备，调度优先级强调信道较好和计算能力较强的设备。

ABSTRACT

Edge machine learning involves the development of learning algorithms at the network edge to leverage massive distributed data and computation resources. Among others, the framework of federated edge learning (FEEL) is particularly promising for its data-privacy preservation. FEEL coordinates global model training at a server and local model training at edge devices over wireless links. In this work, we explore the new direction of energy-efficient radio resource management (RRM) for FEEL. To reduce devices' energy consumption, we propose energy-efficient strategies for bandwidth allocation and scheduling. They adapt to devices' channel states and computation capacities so as to reduce their sum energy consumption while warranting learning performance. In contrast with the traditional rate-maximization designs, the derived optimal policies allocate more bandwidth to those scheduled devices with weaker channels or poorer computation capacities, which are the bottlenecks of synchronized model updates in FEEL. On the other hand, the scheduling priority function derived in closed form gives preferences to devices with better channels and computation capacities. Substantial energy reduction contributed by the proposed strategies is demonstrated in learning experiments.

研究动机与目标

• 激发对FEEL能耗及其对电量有限的边缘设备影响的研究。
• 通过联合带宽分配和设备调度，开发FEEL的低能耗无线资源管理策略。
• 在同步更新约束下推导带宽分配和设备优先级的闭式最优策略。
• 通过对异构设备的FEEL仿真演示能耗下降和学习性能提升。

提出的方法

• 使用OFDMA进行上行传输，建模包含一个边缘服务器和K个边缘设备的FEEL系统。
• 在时间和带宽约束下建立能量最小化问题（上传能量与固定本地训练能量之和）（P1）。
• 证明最优上传时间使用完整的允许时间（t_k^* = T_k），并给出使用Lambert W函数的闭式带宽分配（定理1）。
• 通过引入调度指示变量，将问题扩展为考虑能量与学习的调度，并通过松弛-化圆整法求解放松的凸问题(P3)。
• 给出闭式最优调度优先级（定理2），并给出算法1：在带宽分配(P1)和调度(P4)之间交替，直至收敛。

实验结果

研究问题

• RQ1 如何在不牺牲学习速度的前提下分配无线资源以最小化FEEL中的能耗？
• RQ2 当设备具有异质信道增益和计算能力时，最优带宽分配策略是什么？
• RQ3 在同步更新约束下，应如何调度设备以平衡能耗与学习性能？
• RQ4 将二进制调度变量松弛并采用圆整方法对解及学习结果有何影响？
• RQ5 与传统的速率最大化或全部设备参与相比，所提方案在能耗和学习性能方面的比较优势有哪些？

主要发现

• 最优带宽分配将更多带宽分配给计算能力较弱或信道较差的设备，以满足时限并最小化能耗。
• 最优上传时间使用每个设备允许的完整传输窗口（t_k^* = T_k）。
• 闭式带宽表达式包含Lambert W函数和拉格朗日乘子（ν^*）。
• 在考虑能量与学习的调度中，选择具有更高计算能力和更好信道的设备，其优先级由闭式表达式β_k^*表征。
• 通过算法1的带宽分配和调度联合实现显著的能耗下降（在仿真中相对基线高达约98%），在更长的时间约束下，调度更多设备也提升学习准确性。