[论文解读] Federated learning with class imbalance reduction

Miao Yang, Akitanoshou Wong+3 more|arXiv (Cornell University)|Nov 23, 2020

Privacy-Preserving Technologies in Data参考文献 17被引用 9

一句话总结

该论文提出了一种联邦学习中的客户端选择算法，可在不访问原始客户端数据的情况下减少类别不平衡。通过从模型梯度中估计类别分布，并采用上下文多臂老虎机框架，该方法提升了全局模型的收敛速度与准确率，在非独立同分布（non-IID）设置下优于贪婪和随机选择策略。

ABSTRACT

Federated learning (FL) is a promising technique that enables a large amount of edge computing devices to collaboratively train a global learning model. Due to privacy concerns, the raw data on devices could not be available for centralized server. Constrained by the spectrum limitation and computation capacity, only a subset of devices can be engaged to train and transmit the trained model to centralized server for aggregation. Since the local data distribution varies among all devices, class imbalance problem arises along with the unfavorable client selection, resulting in a slow converge rate of the global model. In this paper, an estimation scheme is designed to reveal the class distribution without the awareness of raw data. Based on the scheme, a device selection algorithm towards minimal class imbalance is proposed, thus can improve the convergence performance of the global model. Simulation results demonstrate the effectiveness of the proposed algorithm.

研究动机与目标

• 解决由于客户端数据分布非独立同分布（non-i.i.d.）导致的联邦学习中类别不平衡的挑战。
• 开发一种客户端选择策略，无需访问原始客户端数据即可最小化类别不平衡。
• 在隐私和资源受限条件下，提升联邦学习中全局模型的收敛速度与准确率。
• 设计一种基于学习的客户端选择机制，以在客户端选择中平衡探索与利用。

提出的方法

• 仅使用更新后的模型梯度，在每个客户端上估计本地类别分布，避免暴露原始数据。
• 将客户端选择问题建模为上下文多臂老虎机（Contextual Multi-Armed Bandit, CMAB）问题，以平衡探索与利用。
• 采用基于强化学习的算法，引入探索因子 α 和遗忘因子 ρ，动态选择类别组成均衡的客户端。
• 应用归一化因子 β 以稳定学习过程，并确保客户端选择的鲁棒性。
• 将客户端选择机制集成到 FedAvg 框架中，其中选定的客户端进行本地训练，并仅传输模型权重以供全局聚合。
• 在本地训练中采用交叉熵损失和随机梯度下降（SGD），并保持超参数固定以确保实验的一致性。

实验结果

研究问题

• RQ1 是否可以在不访问原始客户端数据的情况下，有效减少联邦学习中的类别不平衡？
• RQ2 基于梯度的类别分布估计方案与直接访问数据相比，在准确率与隐私保护方面表现如何？
• RQ3 与贪婪或随机选择相比，基于 CMAB 的客户端选择策略在多大程度上提升了收敛速度与最终模型准确率？
• RQ4 在非独立同分布数据条件下，探索与利用之间存在何种最优权衡？
• RQ5 所选客户端数量如何影响收敛性能与通信效率？

主要发现

• 所提算法在收敛速度与全局测试准确率方面均优于贪婪和随机客户端选择方案。
• 该方法与随机选择方案之间的性能差距主要源于通过更优的客户端集合选择有效缓解了类别不平衡。
• 与贪婪方案相比，所提方法在探索与利用之间实现了更优平衡，从而发现了更多最优的客户端组合。
• 增加所选客户端数量可提升性能，但超过某一临界点后增益递减，表明更大客户端集合存在收益递减现象。
• 探索因子 α（模拟中设为 0.2）至关重要——过低导致探索不足，过高则因次优探索选择导致性能下降。
• 在非独立同分布设置下，该算法显著优于基线方案，而在独立同分布设置下性能相当，证实其在类别不平衡场景下的有效性。