[论文解读] EvoFed: Leveraging Evolutionary Strategies for Communication-Efficient Federated Learning

Mohammad Mahdi Rahimi, Hasnain Irshad Bhatti+3 more|arXiv (Cornell University)|Nov 13, 2023

Privacy-Preserving Technologies in Data被引用 4

一句话总结

EvoFed 提出了一种通信高效的联邦学习框架，该框架通过基于适应度的相似性度量替代传统的模型参数传输。该方法通过仅传输本地更新模型与噪声扰动种群之间的基于距离的适应度值，实现了在 FMNIST 上超过 98.8% 的压缩率，在 CIFAR-10 上达到 99.7% 的压缩率，同时在通信成本大幅降低的情况下保持了与 FedAvg 相当的准确率并维持了收敛性。

ABSTRACT

Federated Learning (FL) is a decentralized machine learning paradigm that enables collaborative model training across dispersed nodes without having to force individual nodes to share data. However, its broad adoption is hindered by the high communication costs of transmitting a large number of model parameters. This paper presents EvoFed, a novel approach that integrates Evolutionary Strategies (ES) with FL to address these challenges. EvoFed employs a concept of 'fitness-based information sharing', deviating significantly from the conventional model-based FL. Rather than exchanging the actual updated model parameters, each node transmits a distance-based similarity measure between the locally updated model and each member of the noise-perturbed model population. Each node, as well as the server, generates an identical population set of perturbed models in a completely synchronized fashion using the same random seeds. With properly chosen noise variance and population size, perturbed models can be combined to closely reflect the actual model updated using the local dataset, allowing the transmitted similarity measures (or fitness values) to carry nearly the complete information about the model parameters. As the population size is typically much smaller than the number of model parameters, the savings in communication load is large. The server aggregates these fitness values and is able to update the global model. This global fitness vector is then disseminated back to the nodes, each of which applies the same update to be synchronized to the global model. Our analysis shows that EvoFed converges, and our experimental results validate that at the cost of increased local processing loads, EvoFed achieves performance comparable to FedAvg while reducing overall communication requirements drastically in various practical settings.

研究动机与目标

• 解决由于频繁传输大型模型参数而引起的联邦学习中高通信开销问题。
• 通过利用进化策略，克服基于梯度的方法在通信效率方面的局限性。
• 开发一种去中心化的训练框架，在最小化客户端与服务器间数据传输的同时保持模型准确率。
• 在不依赖客户端更新中的梯度计算或反向传播的前提下，实现通信高效的联邦学习。
• 通过基于种群的梯度编码将模型更新编码为紧凑的适应度向量，实现高比率压缩。

提出的方法

• 引入基于种群的梯度编码（PBGE），其中每个客户端将本地更新模型与一组噪声扰动模型之间的相似性计算为适应度值。
• 在客户端与服务器之间使用同步的随机种子，生成相同的扰动模型种群，确保适应度计算的一致性。
• 仅传输本地模型与扰动种群之间的适应度值（距离），而非完整的模型参数。
• 在服务器端聚合适应度向量，并将全局适应度向量分发回客户端，以实现同步的模型更新。
• 利用小规模扰动模型种群可近似全梯度方向的事实，实现在极小信息损失下的高比率压缩。
• 采用 FedAvg 风格的聚合方法，利用全局适应度向量更新全局模型，确保收敛性与客户端间的一致性。

实验结果

研究问题

• RQ1 进化策略能否被有效适配于联邦学习，以在不牺牲模型准确率的前提下降低通信成本？
• RQ2 通过 PBGE 实现的基于适应度的信息共享，在多大程度上可以替代联邦学习中的基于梯度的模型更新，同时保持收敛性和性能？
• RQ3 种群规模和噪声方差的选择如何影响 EvoFed 中的通信效率与模型准确率？
• RQ4 与标准 FedAvg 相比，EvoFed 在通信节省与本地计算增加之间的权衡如何？
• RQ5 EvoFed 是否能在 MNIST、FMNIST 和 CIFAR-10 等多样化数据集上实现与 FedAvg 相当或更优的性能，同时显著降低通信负载？

主要发现

• 在 FMNIST 数据集上，EvoFed 仅使用 7.78 MB 通信量即达到 84.72% 的准确率，通信效率优于 FedAvg（85.53% 准确率，通信量 40.99 MB）。
• 在 CIFAR-10 上，EvoFed 仅使用 0.023 GB 通信量即达到 54.12% 的准确率，超过 FedAvg 的 50.22%（通信量 2.134 GB），表明模型压缩率超过 99.7%。
• 在 MNIST 上，EvoFed 以 9.2 MB 通信量达到 97.62% 的准确率，优于 FedAvg 的 73.7 MB，实现了 98.8% 的有效压缩率。
• 在 FMNIST 上，当种群规模超过 128 个样本后，性能增益趋于平缓，表明在充分探索参数空间后收益递减。
• 尽管用紧凑的适应度向量替代了完整的模型参数，该方法在所有数据集上均保持了收敛性和泛化性能。
• 在准确率和通信效率方面，EvoFed 显著优于 Fed-quant 和 Fed-sparse 等基线方法，尤其在高比率压缩条件下表现更优。