[论文解读] Stochastic Client Selection for Federated Learning with Volatile Clients

Tiansheng Huang, Weiwei Lin+3 more|arXiv (Cornell University)|Nov 17, 2020

Privacy-Preserving Technologies in Data被引用 8

一句话总结

本文提出E3CS，一种在客户端波动条件下用于联邦学习的随机客户端选择算法，通过在有效参与度与公平性之间取得平衡，加速收敛过程，同时不牺牲最终模型的准确性。通过使用基于Exp3的方法并引入增量公平性机制，动态调整选择概率，E3CS相较于最先进方法实现最高2倍的收敛速度提升，同时保持相近的最终准确性。

ABSTRACT

Federated Learning (FL), arising as a privacy-preserving machine learning paradigm, has received notable attention from the public. In each round of synchronous FL training, only a fraction of available clients are chosen to participate, and the selection decision might have a significant effect on the training efficiency, as well as the final model performance. In this paper, we investigate the client selection problem under a volatile context, in which the local training of heterogeneous clients is likely to fail due to various kinds of reasons and in different levels of frequency. {\color{black}Intuitively, too much training failure might potentially reduce the training efficiency, while too much selection on clients with greater stability might introduce bias, thereby resulting in degradation of the training effectiveness. To tackle this tradeoff, we in this paper formulate the client selection problem under joint consideration of effective participation and fairness.} Further, we propose E3CS, a stochastic client selection scheme to solve the problem, and we corroborate its effectiveness by conducting real data-based experiments. According to our experimental results, the proposed selection scheme is able to achieve up to 2x faster convergence to a fixed model accuracy while maintaining the same level of final model accuracy, compared with the state-of-the-art selection schemes.

研究动机与目标

• 解决在客户端波动的联邦学习中，训练收敛速度与最终模型准确性之间的权衡问题。
• 缓解因频繁选择特定客户端而导致的过拟合问题，从而降低选择偏差对模型性能的负面影响。
• 联合优化客户端选择中的有效参与度（即成功上传模型）与公平性。
• 设计一种动态选择策略，优先选择高价值客户端以实现早期加速，并确保长期公平性。

提出的方法

• E3CS采用对抗性多臂老虎机框架，基于Exp3算法，在客户端选择中实现探索与利用的平衡。
• 引入公平性配额机制，早期阶段（σₜ = 0）不施加公平性约束，以最大化有效参与度，随后在后期阶段逐步提升公平性至σₜ = k/K。
• 该算法基于历史成功概率与损失值，维护客户端的概率分布，并动态调整选择概率，优先选择稳定且表现优异的客户端。
• 在T/4训练轮次后应用动态公平性调整，从以利用为主转向探索为主，防止对部分客户端的过拟合。
• 在IID与非IID数据分布下均进行了评估，并对选择基数与收敛速度进行了消融研究。
• E3CS设计注重实用性与可扩展性，无需预先知晓客户端故障率或数据分布信息。

实验结果

研究问题

• RQ1 客户端波动性（由可变故障率定义）如何影响联邦学习的收敛性与准确性？
• RQ2 在客户端选择中，最大化有效参与度与确保选择公平性之间的权衡关系是什么？
• RQ3 是否能够通过随机选择策略，动态平衡早期收敛速度与长期模型准确性？
• RQ4 客户端有效参与度（CEP）在不同训练阶段与数据分布下的影响有何差异？
• RQ5 在客户端波动的联邦学习环境中，选择公平性在多大程度上影响最终模型性能？

主要发现

• 与最先进选择方案（如FedCS和Random）相比，E3CS在达到固定准确率阈值时，收敛速度最高可提升2倍。
• E3CS-inc变体通过引入增量公平性机制，在早期训练中保持高速收敛，同时避免最终模型准确性的下降。
• 客户端有效参与度（CEP）的影响在初始训练阶段最为显著，随着模型趋近收敛而逐渐减弱。
• 高CEP但低公平性的选择方案（如FedCS）因频繁选择特定客户端而产生过拟合，导致最终准确性下降。
• 在非IID数据设置下，高CEP与低CEP方案之间的性能差距进一步扩大，表明任务难度会增强CEP对收敛速度的影响。
• 更公平的方案（如Random(A)）在后期训练阶段最终超越有偏差的方案，证实随着训练推进，公平性的重要性日益凸显。