[论文解读] Hierarchical Federated Learning with Quantization: Convergence Analysis and System Design

Lumin Liu, Jun Zhang+2 more|arXiv (Cornell University)|Mar 26, 2021

Privacy-Preserving Technologies in Data参考文献 21被引用 7

一句话总结

该论文提出了一种具有模型量化功能的分层联邦学习框架，提供了更紧密的收敛性分析，同时考虑了边缘-云通信延迟和量化噪声。该分析导出了优化的聚合间隔：客户端-边缘间隔应缓慢衰减，而边缘-云间隔必须根据延迟比进行自适应调整，仿真结果表明该方法在通信效率和收敛速度方面均有显著提升。

ABSTRACT

Federated learning (FL) is a powerful distributed machine learning framework where a server aggregates models trained by different clients without accessing their private data. Hierarchical FL, with a client-edge-cloud aggregation hierarchy, can effectively leverage both the cloud server's access to many clients' data and the edge servers' closeness to the clients to achieve a high communication efficiency. Neural network quantization can further reduce the communication overhead during model uploading. To fully exploit the advantages of hierarchical FL, an accurate convergence analysis with respect to the key system parameters is needed. Unfortunately, existing analysis is loose and does not consider model quantization. In this paper, we derive a tighter convergence bound for hierarchical FL with quantization. The convergence result leads to practical guidelines for important design problems such as the client-edge aggregation and edge-client association strategies. Based on the obtained analytical results, we optimize the two aggregation intervals and show that the client-edge aggregation interval should slowly decay while the edge-cloud aggregation interval needs to adapt to the ratio of the client-edge and edge-cloud propagation delay. Simulation results shall verify the design guidelines and demonstrate the effectiveness of the proposed aggregation strategy.

研究动机与目标

• 解决现有研究中缺乏对带有模型量化的分层联邦学习的精确收敛性分析这一关键问题，这对系统优化至关重要。
• 克服现有松散边界忽略量化影响、无法有效指导分层联邦学习系统实际设计的局限性。
• 为优化客户端-边缘和边缘-云聚合间隔提供理论指导，以在保持模型精度的同时最小化通信开销。
• 通过联合考虑分层聚合与量化，平衡通信效率与模型收敛性之间的权衡。
• 基于严格的理论边界，支持系统级设计决策，这些边界能够真实反映现实世界中的延迟和量化噪声。

提出的方法

• 通过建模客户端-边缘和边缘-云聚合过程中的量化噪声以及可变的本地更新步数，推导出带有量化的分层联邦学习的更紧密收敛边界。
• 引入三级训练流程：本地客户端更新、带量化的边缘层聚合，以及进一步量化的云层聚合。
• 采用带本地步数的随机梯度下降（SGD），并通过参数 $ q_1 $（用于客户端-边缘）和 $ q_2 $（用于边缘-云）的有界量化模型引入量化误差项。
• 应用方差分解与期望上界方法，推导出包含梯度范数和噪声项的收敛上界，同时考虑本地更新和量化效应。
• 利用推导出的边界优化客户端-边缘聚合间隔 $ \tau_1 $ 和边缘-云聚合间隔 $ \tau_2 $，表明 $ \tau_1 $ 应缓慢衰减，而 $ \tau_2 $ 应与延迟比成比例。
• 通过仿真验证理论结果，表明在优化的聚合策略下，收敛速度更快，通信成本更低。

实验结果

研究问题

• RQ1 模型量化如何影响分层联邦学习的收敛性？能否推导出考虑量化噪声的更紧密理论边界？
• RQ2 在带有量化的分层联邦学习中，客户端-边缘聚合间隔 $ \tau_1 $ 的最优值是什么？它应如何随时间调整？
• RQ3 在分层联邦学习中，如何选择边缘-云聚合间隔 $ \tau_2 $，以在通信延迟与模型精度之间取得平衡？
• RQ4 客户端-边缘与边缘-云传播延迟之比对最优聚合策略有何影响？
• RQ5 与传统联邦学习相比，所提出的量化分层联邦学习框架在收敛速度和通信效率方面表现如何？

主要发现

• 所提出的收敛边界显著优于现有边界，后者过于松散且未考虑量化影响，因而可实现更精确的系统设计。
• 客户端-边缘聚合间隔 $ \tau_1 $ 应随时间缓慢衰减，以在本地更新精度与通信频率之间取得平衡。
• 边缘-云聚合间隔 $ \tau_2 $ 必须根据客户端-边缘与边缘-云传播延迟的比值进行自适应调整，以最小化收敛时间。
• 仿真结果证实，与基线联邦学习及非优化的分层联邦学习相比，优化的聚合策略可显著减少训练时间和通信成本。
• 理论分析表明，量化噪声会增加收敛方差，其影响在推导出的边界中被明确捕捉。
• 所推导的边界可支持实际系统优化，例如选择最优的 $ \tau_1 $ 和 $ \tau_2 $，从而在固定时间预算下实现更快收敛。