[论文解读] Client Selection and Bandwidth Allocation in Wireless Federated Learning Networks: A Long-Term Perspective

Jie Xu, Heqiang Wang|arXiv (Cornell University)|Apr 9, 2020

Privacy-Preserving Technologies in Data参考文献 33被引用 16

一句话总结

本文提出 OCEAN，一种用于无线联邦学习网络中联合客户端选择与带宽分配的在线算法，采用长期视角，考虑时间相关性与客户端能量约束。通过利用带有虚拟能量赤字队列的李雅普诺夫优化，OCEAN 仅使用当前信道状态信息即可实现接近最优的学习性能，显著优于忽略长期影响的传统逐轮方法。

ABSTRACT

This paper studies federated learning (FL) in a classic wireless network, where learning clients share a common wireless link to a coordinating server to perform federated model training using their local data. In such wireless federated learning networks (WFLNs), optimizing the learning performance depends crucially on how clients are selected and how bandwidth is allocated among the selected clients in every learning round, as both radio and client energy resources are limited. While existing works have made some attempts to allocate the limited wireless resources to optimize FL, they focus on the problem in individual learning rounds, overlooking an inherent yet critical feature of federated learning. This paper brings a new long-term perspective to resource allocation in WFLNs, realizing that learning rounds are not only temporally interdependent but also have varying significance towards the final learning outcome. To this end, we first design data-driven experiments to show that different temporal client selection patterns lead to considerably different learning performance. With the obtained insights, we formulate a stochastic optimization problem for joint client selection and bandwidth allocation under long-term client energy constraints, and develop a new algorithm that utilizes only currently available wireless channel information but can achieve long-term performance guarantee. Further experiments show that our algorithm results in the desired temporal client selection pattern, is adaptive to changing network environments and far outperforms benchmarks that ignore the long-term effect of FL.

研究动机与目标

• 解决现有联邦学习（FL）资源分配方法中各训练轮次相互独立的问题，忽略长期相关性与客户端能量限制。
• 研究时间上的客户端选择模式（均匀、早期偏向或晚期偏向）如何影响多轮训练下的最终 FL 性能。
• 在波动的无线环境中，针对长期客户端能量约束，制定联合客户端选择与带宽分配的随机优化问题。
• 设计一种实用的在线算法，仅使用当前无线信道信息，同时保证长期性能与能量合规性。
• 验证在后期 FL 轮次中选择更多客户端相比早期轮次选择，能提升模型准确率与鲁棒性。

提出的方法

• 在客户端有限能量预算与时变信道条件约束下，制定长期随机优化问题，用于客户端选择与带宽分配。
• 为每个客户端引入虚拟能量赤字队列，以建模长期能量约束，并通过李雅普诺夫优化将问题转化为一系列每轮子问题。
• 设计 OCEAN，在每轮中仅使用当前信道状态信息（CSI）求解有限个凸优化问题，确保低复杂度与实时可行性。
• 采用漂移加惩罚框架，平衡学习效用与能量队列稳定性，通过时变惩罚权重 $ V_m $ 优先考虑随时间推移的学习性能。
• 每 $ R $ 轮采用基于帧的重置机制，对能量赤字队列进行重置，以保持队列大小有界并确保能量约束合规。
• 推导理论性能边界，表明随着 $ V_m $ 增大，算法的累积学习效用趋近于最优离线解。

实验结果

研究问题

• RQ1 每一 FL 轮次对最终模型性能的贡献是否随时间变化？若变化，资源分配应如何相应调整？
• RQ2 能否设计一种长期优化框架，综合考虑轮次间依赖性与客户端能量预算，从而优于传统逐轮资源分配方法？
• RQ3 在后期 FL 轮次中选择更多客户端是否比早期轮次选择更有利于提升模型准确率与鲁棒性？
• RQ4 仅使用当前 CSI 的在线算法能否在不预测未来信道状态的情况下，实现长期性能保证？
• RQ5 所提出的 OCEAN 算法如何在时间和客户端之间平衡学习效用与能耗？

主要发现

• 实验表明，在后期 FL 轮次中选择更多客户端可带来更高的模型准确率与更低的训练损失，且鲁棒性更强。
• OCEAN 算法的累积学习效用与最优离线解之间的差距在 $ O(1/V_m) $ 范围内，且随着 $ V_m $ 增大而缩小。
• OCEAN 确保每个客户端的总能耗均在其有限预算范围内，这由能量赤字队列的有界性所证明。
• 该算法维持稳定的队列大小，满足 $ q_k(mR+R) \leq \sqrt{2R(V_m \eta^t K + C_1)} $，确保长期可行性。
• OCEAN 在动态网络环境（信道条件多变）下显著优于忽略长期影响的基准算法。
• 理论分析证实，即使在无未来信道状态知识的情况下，该算法在时变信道条件下仍能收敛至最优解。