[论文解读] Node Selection Toward Faster Convergence for Federated Learning on Non-IID Data

Hongda Wu, Ping Wang|arXiv (Cornell University)|May 14, 2021

Privacy-Preserving Technologies in Data被引用 14

一句话总结

本文提出 FedPNS，一种用于联邦学习的基于概率的节点选择框架，通过根据本地梯度与全局模型的梯度对齐程度动态选择节点，从而在非独立同分布（non-i.i.d.）数据上加速收敛。该方法引入了最优聚合（Optimal Aggregation）机制，通过分析本地梯度与全局梯度之间的内积，排除有害的本地更新，从而减少收敛延迟并提高模型准确率，且通信开销极低。

ABSTRACT

Federated Learning (FL) is a distributed learning paradigm that enables a large number of resource-limited nodes to collaboratively train a model without data sharing. The non-independent-and-identically-distributed (non-i.i.d.) data samples invoke discrepancies between the global and local objectives, making the FL model slow to converge. In this paper, we proposed Optimal Aggregation algorithm for better aggregation, which finds out the optimal subset of local updates of participating nodes in each global round, by identifying and excluding the adverse local updates via checking the relationship between the local gradient and the global gradient. Then, we proposed a Probabilistic Node Selection framework (FedPNS) to dynamically change the probability for each node to be selected based on the output of Optimal Aggregation. FedPNS can preferentially select nodes that propel faster model convergence. The unbiasedness of the proposed FedPNS design is illustrated and the convergence rate improvement of FedPNS over the commonly adopted Federated Averaging (FedAvg) algorithm is analyzed theoretically. Experimental results demonstrate the effectiveness of FedPNS in accelerating the FL convergence rate, as compared to FedAvg with random node selection.

研究动机与目标

• 为解决在非独立同分布数据分布下联邦学习收敛缓慢的问题，其中数据异构性导致模型更新产生偏差。
• 挑战每轮中所有参与节点应等权重参与全局模型聚合的假设。
• 设计一种动态节点选择策略，优先选择更新更优的节点以加速收敛。
• 理论上分析 FedPNS 相较于 FedAvg 在数据异构性和聚合动态条件下的收敛性改进。
• 在最小化通信成本的同时，通过服务器端的概率选择机制实现最大收敛速度，且无需额外开销。

提出的方法

• 提出最优聚合（Optimal Aggregation）机制，通过计算本地梯度与全局梯度之间的内积，识别并排除有害的本地更新。
• 将内积结果作为衡量指标，评估每个本地更新对全局模型改进的贡献程度。
• 引入一种基于概率的节点选择框架（FedPNS），根据最优聚合的输出动态调整选择概率。
• 动态提高与全局梯度对齐良好的本地梯度所对应节点的被选概率，表明其更新更具益处。
• 采用理论分析，推导出在考虑数据异构性和聚合效率前提下，全局损失期望下降的上界。
• 在服务器端实现选择机制，无需额外通信，从而在资源受限环境中保持低开销。

实验结果

研究问题

• RQ1 在非独立同分布数据下，排除与全局梯度不匹配的某些本地更新，是否能提升联邦学习的收敛速度？
• RQ2 如何自适应调整节点选择概率，以优先选择对全局模型改进更有效的节点？
• RQ3 在非独立同分布数据下，FedPNS 相较于 FedAvg 的理论收敛界是什么？
• RQ4 基于梯度的选择机制是否能减少联邦学习达到收敛所需的通信轮次？
• RQ5 服务器端的选择机制是否能在不增加通信成本的前提下提升收敛性能？

主要发现

• 与随机节点选择的 FedAvg 相比，FedPNS 显著加速了收敛，减少了达到目标准确率所需的通信轮次。
• 最优聚合算法成功利用梯度对齐机制识别并排除了对全局模型收敛有害的本地更新。
• 理论分析表明，FedPNS 通过聚焦高质量更新，实现了每轮全局损失的更快期望下降。
• 与全局梯度对齐程度更高的节点被优先选择，从而随时间推移实现更有效的模型更新。
• 概率选择框架在服务器端运行，无需额外通信开销，因此在边缘计算环境中保持了高效性。
• 实验结果证实，FedPNS 在非独立同分布数据分布下的收敛速度和最终模型准确率方面均优于 FedAvg。