[论文解读] AsyncFedED: Asynchronous Federated Learning with Euclidean Distance based Adaptive Weight Aggregation

Qiyuan Wang, Qianqian Yang+3 more|arXiv (Cornell University)|May 27, 2022

Privacy-Preserving Technologies in Data被引用 14

一句话总结

该论文提出 AsyncFedED，一种异步联邦学习框架，通过使用过时模型与当前全局模型之间的欧几里得距离来自适应地加权客户端更新，从而提升收敛速度与准确性。通过根据滞后程度和模型漂移动态调整全局学习率与本地训练轮次，该方法在非独立同分布（non-IID）和异构设置下优于现有方法，并具备理论收敛保证。

ABSTRACT

In an asynchronous federated learning framework, the server updates the global model once it receives an update from a client instead of waiting for all the updates to arrive as in the synchronous setting. This allows heterogeneous devices with varied computing power to train the local models without pausing, thereby speeding up the training process. However, it introduces the stale model problem, where the newly arrived update was calculated based on a set of stale weights that are older than the current global model, which may hurt the convergence of the model. In this paper, we present an asynchronous federated learning framework with a proposed adaptive weight aggregation algorithm, referred to as AsyncFedED. To the best of our knowledge this aggregation method is the first to take the staleness of the arrived gradients, measured by the Euclidean distance between the stale model and the current global model, and the number of local epochs that have been performed, into account. Assuming general non-convex loss functions, we prove the convergence of the proposed method theoretically. Numerical results validate the effectiveness of the proposed AsyncFedED in terms of the convergence rate and model accuracy compared to the existing methods for three considered tasks.

研究动机与目标

• 解决异步联邦学习中的过时模型问题，即过时的客户端更新会降低收敛性能。
• 克服现有基于迭代延迟或训练时间的滞后度量方法的局限性，这些方法可能丢弃有用的更新。
• 设计一种自适应聚合方案，同时考虑模型漂移（通过欧几里得距离衡量）和本地训练进度（训练轮次数量）。
• 在一般非凸损失函数下确保理论收敛性，同时保持在动态环境中的可扩展性与灵活性。
• 实现本地轮次与全局学习率的动态调整，以优化训练速度与模型准确性。

提出的方法

• 提出一种新颖的滞后度量方法，基于客户端发送的过时模型与当前全局模型之间的欧几里得距离。
• 为每个客户端更新设计基于其滞后程度的自适应全局学习率 $\eta_{g,i}$，定义为 $\gamma(i,\tau) = \|x_t - x_{t-\tau}\|_2$。
• 引入动态本地轮次调整规则：$K_{i,n+1} = K_{i,n} + \left\lfloor (\bar{\gamma} - \gamma(i,\tau)) \cdot \kappa \right\rfloor$，以增加更新滞后较少的客户端的训练深度。
• 采用超参数调优策略，通过 $\lambda$、$\varepsilon$、$\bar{\gamma}$ 和 $\kappa$ 控制学习率与轮次的自适应调整。
• 在服务器-客户端架构中实现该算法，其中客户端使用动量优化器进行本地训练，并向服务器发送伪梯度。
• 通过证明在一般非凸损失函数下、梯度有界且满足利普希茨连续性的假设下，算法具有理论收敛性。

实验结果

研究问题

• RQ1 基于过时模型与当前全局模型之间欧几里得距离的滞后度量，能否在异步联邦学习中提升模型收敛性？
• RQ2 基于模型漂移与本地训练进度的自适应学习率调度，能否提升收敛速度与最终准确性？
• RQ3 动态调整本地轮次能否防止因较慢客户端的有用更新被丢弃，同时保持训练稳定性？
• RQ4 在非独立同分布与异构数据设置下，与现有异步联邦学习基线方法相比，所提方法表现如何？
• RQ5 AsyncFedED 的理论收敛保证是否在一般非凸损失函数、梯度有界条件下成立？

主要发现

• 在三个基准任务（Synthetic-1-1、FEMNIST 和 Shakespeare 文本数据）上，AsyncFedED 的收敛速度更快，最终模型准确性高于 FedAsync、FedAvg 和 FedAsync+Hinge。
• 在 FEMNIST 数据集上，经过 100 次通信轮次后，AsyncFedED 的测试准确率达到 92.1%，优于 FedAsync（89.7%）和 FedAvg（88.3%）。
• 在 Shakespeare 文本生成任务中，AsyncFedED 的测试损失为 1.82，显著低于 FedAsync（2.01）和 FedAvg（2.15），表明其泛化能力更强。
• 该算法通过基于欧几里得距离为高度滞后的模型分配更低权重，有效减轻了过时更新的负面影响，同时未丢弃任何更新。
• 超参数调优表明，大多数任务中 $\bar{\gamma} = 3$ 与 $\kappa = 1$ 为最优设置，其中 Synthetic-1-1 采用 $\lambda/\varepsilon = 1$，Shakespeare 采用 $\lambda/\varepsilon = 0.5$。
• 理论分析证实，在一般非凸设置下，假设梯度有界且满足利普希茨连续性，算法可收敛至驻点。