[论文解读] Wirelessly Powered Federated Edge Learning: Optimal Tradeoffs Between Convergence and Power Transfer

Qunsong Zeng, Yuqing Du+1 more|arXiv (Cornell University)|Feb 24, 2021

Energy Harvesting in Wireless Networks参考文献 39被引用 5

一句话总结

本文提出了一种无线供电联邦边缘学习（WP-FEEL）系统，通过联合管理设备计算、通信与采集能量，优化模型收敛性与无线能量传输之间的权衡。该研究推导出尺度律，表明收敛速率随传输能量和计算效率的提升而改善，为边缘人工智能系统中无线功率传输（WPT）的部署提供了设计指导。

ABSTRACT

Federated edge learning (FEEL) is a widely adopted framework for training an artificial intelligence (AI) model distributively at edge devices to leverage their data while preserving their data privacy. The execution of a power-hungry learning task at energy-constrained devices is a key challenge confronting the implementation of FEEL. To tackle the challenge, we propose the solution of powering devices using wireless power transfer (WPT). To derive guidelines on deploying the resultant wirelessly powered FEEL (WP-FEEL) system, this work aims at the derivation of the tradeoff between the model convergence and the settings of power sources in two scenarios: 1) the transmission power and density of power-beacons (dedicated charging stations) if they are deployed, or otherwise 2) the transmission power of a server (access-point). The development of the proposed analytical framework relates the accuracy of distributed stochastic gradient estimation to the WPT settings, the randomness in both communication and WPT links, and devices' computation capacities. Furthermore, the local-computation at devices (i.e., mini-batch size and processor clock frequency) is optimized to efficiently use the harvested energy for gradient estimation. The resultant learning-WPT tradeoffs reveal the simple scaling laws of the model-convergence rate with respect to the transferred energy as well as the devices' computational energy efficiencies. The results provide useful guidelines on WPT provisioning to provide a guaranteer on learning performance. They are corroborated by experimental results using a real dataset.

研究动机与目标

• 解决联邦边缘学习（FEEL）中能量受限边缘设备的挑战，其中训练大型AI模型会耗尽有限的电池资源。
• 克服先前研究的局限性，通过量化模型收敛性与无线功率传输（WPT）设置之间的权衡，而非仅关注能效或通信性能。
• 提供部署WPT基础设施（如专用波束成形器或服务器）的分析指导，作为期望学习性能的函数。
• 考虑不可靠通信链路与WPT链路之间的耦合关系，并联合管理设备用于计算与通信的采集能量。
• 优化本地计算参数（小批量大小与处理器频率），在能量约束下最大化学习性能。

提出的方法

• 为具有无线能量传输的联邦边缘学习开发随机梯度下降（SGD）框架，建模通信链路与WPT链路的衰落特性。
• 推导每个设备的期望本地梯度偏差，结合信道条件、设备位置与能量采集可靠性。
• 由于上行链路中瑞利衰落的影响，采用伽马分布模型描述活跃设备数量，并推导设备参与的中断概率。
• 利用积分变换与特殊函数（不完全伽马函数与修正贝塞尔函数）推导活跃设备条件下的期望梯度偏差。
• 提出一种新颖的能量感知优化框架，联合分配采集能量至计算与通信，以最大化收敛速度。
• 通过梯度偏差的渐近分析，建立收敛速率关于传输能量与设备计算能量效率的尺度律。

实验结果

研究问题

• RQ1 无线功率传输（WPT）传输的能量量如何影响联邦边缘学习的收敛速率？
• RQ2 模型收敛性与WPT参数（如发射功率、波束成形器或接入点的功率密度）之间的最优权衡是什么？
• RQ3 通信链路与WPT链路的可靠性如何共同影响活跃设备数量与学习性能？
• RQ4 如何最优分配采集能量至计算与通信，以最大化学习收敛性？
• RQ5 设备特定的计算能量效率与硬件参数（如处理器时钟频率、小批量大小）如何影响学习-WPT权衡？

主要发现

• WP-FEEL的收敛速率与传输能量的立方根成正比，表明随着能量增加，收益递减。
• 模型收敛速率与设备计算能量效率成正比，意味着在相同能量输入下，更高效的处理器可实现更快收敛。
• 设备参与的中断概率受WPT与通信信道参数的函数约束，利用特殊函数推导出闭式表达式。
• 活跃设备的期望梯度偏差由包含修正贝塞尔函数与不完全伽马函数的函数上界控制，实现分析上的可处理性。
• 推导出的尺度律表明，提高WPT功率或提升设备能量效率可单调改善收敛速率。
• 使用真实世界数据集的实验验证确认了分析预测的准确性，证明所提模型在真实部署场景中的高精度。