[论文解读] Joint Client Assignment and UAV Route Planning for Indirect-Communication Federated Learning

Jieming Bian, Cong Shen+1 more|arXiv (Cornell University)|Apr 21, 2023

Privacy-Preserving Technologies in Data被引用 4

一句话总结

本文提出 FedEx，一种利用无人机（UAV）作为移动中间节点的联邦学习框架，以在无基础设施区域实现客户端与服务器之间的间接通信。通过联合优化客户端分配与无人机路径规划，FedEx 在非独立同分布（non-i.i.d.）数据和能量约束下确保收敛性，实验验证表明其在不同网络条件和能量预算下均具备更快的收敛速度与更强的鲁棒性。

ABSTRACT

Federated Learning (FL) is a machine learning approach that enables the creation of shared models for powerful applications while allowing data to remain on devices. This approach provides benefits such as improved data privacy, security, and reduced latency. However, in some systems, direct communication between clients and servers may not be possible, such as remote areas without proper communication infrastructure. To overcome this challenge, a new framework called FedEx (Federated Learning via Model Express Delivery) is proposed. This framework employs mobile transporters, such as UAVs, to establish indirect communication channels between the server and clients. These transporters act as intermediaries and allow for model information exchange. The use of indirect communication presents new challenges for convergence analysis and optimization, as the delay introduced by the transporters' movement creates issues for both global model dissemination and local model collection. To address this, two algorithms, FedEx-Sync and FedEx-Async, are proposed for synchronized and asynchronized learning at the transporter level. Additionally, a bi-level optimization algorithm is proposed to solve the joint client assignment and route planning problem. Experimental validation using two public datasets in a simulated network demonstrates consistent results with the theory, proving the efficacy of FedEx.

研究动机与目标

• 解决在偏远地区、缺乏基础设施环境下无法实现客户端与服务器直接通信时的联邦学习挑战。
• 克服通过移动载体（如无人机）进行间接通信所引入的可变延迟带来的收敛挑战。
• 设计一种联合优化框架，用于客户端分配与无人机路径规划，同时考虑移动性、能量约束与通信延迟。
• 在非凸损失函数与非 i.i.d. 数据分布下，确保同步与异步学习模式中联邦学习过程的收敛性。
• 为在现实世界中资源受限的场景（如环境监测或农村物联网）部署无人机辅助的联邦学习提供系统性解决方案。

提出的方法

• 提出一种新型联邦学习框架 FedEx，其中无人机作为移动中间节点，负责从客户端收集本地模型并分发全局模型。
• 设计两种算法——FedEx-Sync 与 FedEx-Async，用于在无人机层面管理模型交换时机，支持同步与异步学习模式。
• 建立双层优化问题，联合求解客户端分配与无人机路径规划，以在能量与移动性约束下最小化总训练时间。
• 为 FedEx-Sync 与 FedEx-Async 在非凸、非 i.i.d. 设置下的收敛性提供理论分析，并证明收敛性并给出明确的收敛边界。
• 在优化模型中引入移动速度与能量预算约束，确保无人机轨迹的可行性与能量效率。
• 使用基于公开数据集（FMNIST、SVHN）的仿真环境，评估在不同非 i.i.d. 数据分布与路径设计方案下的性能表现。

实验结果

研究问题

• RQ1 当客户端与服务器之间的通信因无人机移动性导致间接且延迟较高时，联邦学习是否仍能收敛？
• RQ2 不同的无人机路径规划策略（如 SWS、Min-Max、Shortest-Total）如何影响收敛速度与模型准确率？
• RQ3 无人机数量、速度与能量预算对联邦学习系统收敛性与性能有何影响？
• RQ4 在不同移动性与工作负载条件下，异步模型交换（FedEx-Async）与同步模型交换（FedEx-Sync）相比有何差异？
• RQ5 数据的非 i.i.d. 分布对联合客户端分配与路径规划策略的性能有何影响？

主要发现

• FedEx-Sync 与 FedEx-Async 在非凸损失函数与非 i.i.d. 数据下均能收敛，且本文提供了理论保证。
• 在 FedEx-Async 中，SWS（最短最坏情况）路径设计实现最佳收敛性能，与理论分析一致。
• 当运输器数量较少（K=2）时，FedEx-Sync 与 FedEx-Async 均能收敛，但因往返时间（RTT）更长且每架无人机的客户端负载更高，收敛速度更慢。
• 将无人机数量从 2 增加到 4 显著提升了收敛速度，原因在于每架无人机的工作负载减少且 RTT 缩短。
• 在较低能量预算（12 KJ 对比 15 KJ）下，FedEx-Async 的收敛速度下降，原因在于未能达到最优成本函数值，而 FedEx-Sync 保持稳定。
• 在低能量预算下，无人机更均衡地分摊工作，导致能量消耗相近，但成本函数表现次优。