[论文解读] Data Selection for Federated Learning with Relevant and Irrelevant Data at Clients
本文提出了一种用于联邦学习的分布式数据选择方法，通过利用特定任务的基准模型评估相关性，仅在每个客户端使用相关数据样本，从而提升模型准确率，最高可达25%，相比使用所有客户端数据训练的结果。
Federated learning is an effective way of training a machine learning model from data collected by client devices. A challenge is that among the large variety of data collected at each client, it is likely that only a subset is relevant for a learning task while the rest of data has a negative impact on model training. Therefore, before starting the learning process, it is important to select the subset of data that is relevant to the given federated learning task. In this paper, we propose a method for distributedly selecting relevant data, where we use a benchmark model trained on a small benchmark dataset that is task-specific, to evaluate the relevance of individual data samples at each client and select the data with sufficiently high relevance. Then, each client only uses the selected subset of its data in the federated learning process. The effectiveness of our proposed approach is evaluated on multiple real-world datasets in a simulated system with a large number of clients, showing up to $25\%$ improvement in model accuracy compared to training with all data.
研究动机与目标
- 为解决无关数据对联邦学习性能的负面影响提供解决方案。
- 使客户端能够识别并仅保留与特定学习任务相关联的数据。
- 开发一种可扩展至大量客户端的分布式数据选择机制，且无需集中收集数据。
- 通过在联邦训练过程中排除低相关性数据样本，提升模型准确率。
提出的方法
- 每个客户端使用在小型特定任务数据集上训练的基准模型，评估其本地数据样本的相关性。
- 通过测量每个数据样本与基准模型预测结果之间的相似性或对齐程度来量化相关性。
- 将相关性得分高于预设阈值的数据样本选中，用于联邦学习。
- 客户端仅在所选的高相关性数据子集上执行联邦学习。
- 该方法以分布式方式运行，通过从不共享原始客户端数据，从而保护数据隐私。
实验结果
研究问题
- RQ1在联邦学习环境中，基准模型能否有效识别各客户端的关联数据样本？
- RQ2排除无关数据对联邦学习最终模型准确率的影响如何？
- RQ3在大规模客户端环境中，数据选择对收敛速度和模型泛化能力的影响是什么？
- RQ4所提出的方法是否能在不共享原始客户端数据的前提下实现显著的准确率提升？
主要发现
- 与使用所有客户端数据训练相比，所提出方法可将模型准确率最高提升25%。
- 在模拟联邦系统中的多个真实世界数据集上，准确率提升效果保持一致。
- 过滤掉无关数据可加快联邦学习的收敛速度，并提升模型泛化能力。
- 基于基准模型的相关性评估能有效识别出有用样本，且无需访问全局数据。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。