[论文解读] FedVARP: Tackling the Variance Due to Partial Client Participation in Federated Learning

Divyansh Jhunjhunwala, Pranay Sharma+2 more|arXiv (Cornell University)|Jul 28, 2022

Privacy-Preserving Technologies in Data被引用 7

一句话总结

FedVARP 是联邦学习中一种新颖的服务器端聚合策略，通过维护并重用每个客户端的最新模型更新作为未参与客户端的代理，从而减少因部分客户端参与导致的方差。该方法在不增加客户端计算或通信开销的情况下实现了最先进性能；而 ClusterFedVARP 通过聚类客户端，在显著降低内存使用的同时实现了相近的性能表现。

ABSTRACT

Data-heterogeneous federated learning (FL) systems suffer from two significant sources of convergence error: 1) client drift error caused by performing multiple local optimization steps at clients, and 2) partial client participation error caused by the fact that only a small subset of the edge clients participate in every training round. We find that among these, only the former has received significant attention in the literature. To remedy this, we propose FedVARP, a novel variance reduction algorithm applied at the server that eliminates error due to partial client participation. To do so, the server simply maintains in memory the most recent update for each client and uses these as surrogate updates for the non-participating clients in every round. Further, to alleviate the memory requirement at the server, we propose a novel clustering-based variance reduction algorithm ClusterFedVARP. Unlike previously proposed methods, both FedVARP and ClusterFedVARP do not require additional computation at clients or communication of additional optimization parameters. Through extensive experiments, we show that FedVARP outperforms state-of-the-art methods, and ClusterFedVARP achieves performance comparable to FedVARP with much less memory requirements.

研究动机与目标

• 为解决联邦学习中因部分客户端参与导致的主导收敛误差问题，该问题相较于客户端漂移仍缺乏充分研究。
• 在服务器端设计一种方差减少机制，消除未参与客户端带来的误差，且无需修改客户端训练过程或增加通信开销。
• 通过聚类提供一种内存高效的变体，保持性能的同时降低存储需求。
• 通过实证验证，部分客户端参与是 FedAvg 中主要的误差来源，其影响超过客户端漂移。

提出的方法

• FedVARP 在服务器内存中维护每个客户端的最新模型更新，并在全局聚合过程中将这些更新用作未参与客户端的代理更新。
• 该方法在服务器端应用一种改进的平均规则，将代理更新纳入计算，从而有效考虑所有客户端的贡献，即使其处于非活跃状态。
• ClusterFedVARP 将客户端划分为若干簇，并为每个簇仅维护一个代理更新，显著降低内存占用，同时保留方差减少的优势。
• 该方法无需修改客户端本地 SGD 或通信协议，因此与现有联邦学习系统向后兼容。
• 理论分析表明，FedVARP 消除了误差下限中的部分参与方差项，从而实现更优的收敛性能。
• 关键组件是在收敛性证明中使用了 Jensen 不等式和 Young 不等式，以界定梯度差异的期望平方范数。

实验结果

研究问题

• RQ1 在 FedAvg 中，部分客户端参与与客户端漂移对收敛误差的相对贡献分别是什么？
• RQ2 是否可以通过一种服务器端聚合策略完全消除由部分客户端参与引入的方差？
• RQ3 在大规模联邦学习系统中，如何实现最小内存开销的方差减少？
• RQ4 为非活跃客户端维护代理更新是否能在实际中实现更快的收敛速度和更低的误差下限？

主要发现

• 在平滑的非凸函数下，部分客户端参与是 FedAvg 中收敛误差的主要来源，其影响超过客户端漂移。
• FedVARP 消除了误差下限中的部分参与方差项，相较于最先进方法实现了更优的收敛速率。
• 在多个基准数据集上，FedVARP 在测试准确率和收敛速度方面均优于现有基线方法。
• ClusterFedVARP 在性能上与 FedVARP 相当，同时将内存使用量降低了与聚类数量成比例的倍数。
• 理论分析证实，梯度差异的期望平方范数被包含随机噪声和客户端漂移的项所界定，其中部分参与项为最主要影响因素。
• 实证结果表明，使用 FedVARP 时误差下限显著降低，尤其在客户端参与方差较高的设置下更为明显。