[论文解读] Federated Learning with Regularized Client Participation

Grigory Malinovsky, Samuel Horváth+2 more|arXiv (Cornell University)|Feb 7, 2023

Privacy-Preserving Technologies in Data被引用 5

一句话总结

该论文提出了一种正则化的客户端参与方案，其中每个客户端在每个元周期内仅参与一次，从而减少了客户端采样带来的方差。结合 FedAvg，该方法在标准假设和任意客户端可用性条件下，实现了优于标准方法的 $\mathcal{O}(1/T^2)$ 收敛速率，而标准方法的收敛速率仅为 $\mathcal{O}(1/T)$。

ABSTRACT

Federated Learning (FL) is a distributed machine learning approach where multiple clients work together to solve a machine learning task. One of the key challenges in FL is the issue of partial participation, which occurs when a large number of clients are involved in the training process. The traditional method to address this problem is randomly selecting a subset of clients at each communication round. In our research, we propose a new technique and design a novel regularized client participation scheme. Under this scheme, each client joins the learning process every $R$ communication rounds, which we refer to as a meta epoch. We have found that this participation scheme leads to a reduction in the variance caused by client sampling. Combined with the popular FedAvg algorithm (McMahan et al., 2017), it results in superior rates under standard assumptions. For instance, the optimization term in our main convergence bound decreases linearly with the product of the number of communication rounds and the size of the local dataset of each client, and the statistical term scales with step size quadratically instead of linearly (the case for client sampling with replacement), leading to better convergence rate $\mathcal{O}\left(\frac{1}{T^2} ight)$ compared to $\mathcal{O}\left(\frac{1}{T} ight)$, where $T$ is the total number of communication rounds. Furthermore, our results permit arbitrary client availability as long as each client is available for training once per each meta epoch.

研究动机与目标

• 为解决跨设备联邦学习中的部分客户端参与问题，即数百万台设备可能可用，但每轮仅有一小部分参与。
• 通过引入结构化、正则化的参与模式，减少 FedAvg 中因随机客户端采样带来的方差。
• 通过利用客户端级别的随机重排，类似于集中式训练中的方差缩减，实现更快的收敛速率。
• 在任意客户端可用性条件下确保收敛性保证，只要每个客户端在每个元周期内至少参与一次。
• 开发一种保持无状态操作的方法，同时在性能上优于现有的基于采样方法。

提出的方法

• 引入元周期结构，使每个客户端每 R 次通信轮次仅参与一次，确保参与的正则化。
• 设计一种新型客户端选择策略，通过在元周期间以固定、周期性顺序对客户端进行重排，避免独立采样。
• 将正则化客户端参与与类似 FedAvg 的更新机制结合，整合本地步骤、本地数据集重排以及独立的服务器和客户端学习率。
• 通过一种新颖的分析框架推导收敛边界，该框架考虑了客户端级别的重排，并避免对随机采样取期望。
• 应用 Mishchenko 等人（2020）的引理 1 来界定客户端重排中的方差，即使在确定性或非均匀客户端排序下也成立。
• 允许任意客户端可用性，只要每个客户端在每个元周期内至少活跃一次，从而提升在真实场景中的实用性。

实验结果

研究问题

• RQ1 与随机采样相比，结构化、非独立同分布的客户端参与模式是否能减少联邦学习中的方差？
• RQ2 当每个客户端在每个元周期内仅参与一次时，正则化客户端参与是否能带来比标准 FedAvg 随机采样更快的收敛速度？
• RQ3 在使用客户端级别重排而非独立同分布采样时，标准假设下收敛速率是否能提升至 $\mathcal{O}(1/T^2)$？
• RQ4 该方法在任意客户端可用性下（包括间歇性或非均匀参与）表现如何？
• RQ5 理论改进是否能在不同数据集和客户端配置下通过实证结果得到验证？

主要发现

• 所提出的 RR-CLI 方法实现了 $\mathcal{O}(1/T^2)$ 的收敛速率，快于 FedAvg 在随机采样下的标准 $\mathcal{O}(1/T)$ 速率。
• 收敛边界中的优化项随通信轮次与本地数据集大小乘积线性下降，提升了可扩展性。
• 统计项随学习率的平方而非线性增长，降低了噪声影响，改善了泛化性能。
• 即使在任意客户端可用性条件下，只要每个客户端在每个元周期内至少参与一次，该方法仍能保持收敛保证。
• 理论分析表明，客户端级别重排带来的方差缩减效应可产生更紧的边界，尤其当 $R$（元周期长度）较大时更为显著。
• 实证结果验证了理论发现，在 a3a 和 w3a 等真实世界数据集上的逻辑回归任务中，训练性能得到显著提升。