[论文解读] An Experimental Study of Data Heterogeneity in Federated Learning Methods for Medical Imaging

Liangqiong Qu, Niranjan Balachandar+1 more|arXiv (Cornell University)|Jul 18, 2021

Privacy-Preserving Technologies in Data参考文献 19被引用 15

一句话总结

本文研究了数据异质性——包括数据量偏斜、标签分布偏斜和成像采集偏斜——对医学影像联邦学习的影响。提出了一系列缓解策略，包括针对数据量偏斜的加权平均，针对标签偏斜的加权损失，以及在FedAVG中平均批量归一化统计量，显著提升了在多个医学影像数据集上异质条件下的模型性能。

ABSTRACT

Federated learning enables multiple institutions to collaboratively train machine learning models on their local data in a privacy-preserving way. However, its distributed nature often leads to significant heterogeneity in data distributions across institutions. In this paper, we investigate the deleterious impact of a taxonomy of data heterogeneity regimes on federated learning methods, including quantity skew, label distribution skew, and imaging acquisition skew. We show that the performance degrades with the increasing degrees of data heterogeneity. We present several mitigation strategies to overcome performance drops from data heterogeneity, including weighted average for data quantity skew, weighted loss and batch normalization averaging for label distribution skew. The proposed optimizations to federated learning methods improve their capability of handling heterogeneity across institutions, which provides valuable guidance for the deployment of federated learning in real clinical applications.

研究动机与目标

• 分析多种数据异质性模式——数据量偏斜、标签分布偏斜和成像采集偏斜——对医学影像联邦学习的影响。
• 评估联邦学习方法在数据异质性程度逐渐增加时的性能退化情况。
• 开发并验证可缓解真实临床环境中数据异质性导致性能损失的优化策略。
• 为多机构医学影像应用中的联邦学习部署提供可操作的指导。

提出的方法

• 在两个医学影像数据集（ADNI 和糖尿病视网膜病变）上评估了三种联邦学习方法：FedSGD、FedAVG 和 CWT。
• 通过模拟具有不同数据量偏斜、标签分布偏斜和成像采集偏斜（如分辨率、信噪比、噪声类型）的数据划分。
• 为FedSGD提出了一种加权平均策略，通过根据本地数据规模调整客户端贡献来缓解数据量偏斜。
• 在FedAVG中引入加权损失函数，以减轻标签分布偏斜导致的性能下降。
• 修改FedAVG，使训练过程中在机构之间平均批量归一化（BN）统计量（均值和方差），以减少偏斜引起的性能损失。
• 通过在多种数据划分和成像条件下进行消融研究，验证了每种优化策略的有效性。

实验结果

研究问题

• RQ1 随着数据异质性（特别是数据量偏斜、标签分布偏斜和成像采集偏斜）的增加，联邦学习模型在医学影像中的性能如何变化？
• RQ2 在联邦学习中，模型更新的加权平均在多大程度上能缓解由数据量偏斜引起的性能退化？
• RQ3 加权损失函数在联邦医学图像分类中能否改善标签分布偏斜下的模型泛化能力？
• RQ4 在FedAVG中对机构间的批量归一化统计量进行平均，是否能提升在成像采集偏斜下的模型鲁棒性？
• RQ5 在真实世界医学影像联邦学习设置中，不同异质性模式对模型收敛性和准确率的影响如何比较？

主要发现

• 在ADNI数据集的第4个划分上，采用加权损失和批量归一化统计量平均的FedAVG相比标准FedAVG（仅使用加权损失），测试准确率相对提升了16.0%。
• 为FedSGD设计的加权平均策略有效恢复了因数据量偏斜导致的性能损失，提升了在数据规模不均的机构间模型的鲁棒性。
• 标签分布偏斜显著降低了模型性能，但所提出的加权损失策略显著缓解了这一影响，尤其在数据不平衡的划分中表现突出。
• 在FedAVG中对机构间批量归一化统计量进行平均，减少了BN层因偏斜导致的准确率损失，优于标准BN平均方法，并为组归一化提供了一种灵活的替代方案。
• 成像采集偏斜（包括分辨率和噪声变化）导致了明显的性能下降，其中基于真实扫描仪厂商的划分显示出最显著的性能退化。
• 在FedAVG中结合使用加权损失和BN统计量平均，在ADNI和Retina数据集中均表现出更优的性能，证明了其在多样化医学影像任务中的有效性。