[论文解读] Multi-Institutional Deep Learning Modeling Without Sharing Patient Data: A Feasibility Study on Brain Tumor Segmentation

Micah Sheller, G. Anthony Reina+3 more|arXiv (Cornell University)|Oct 10, 2018

Privacy-Preserving Technologies in Data参考文献 13被引用 19

一句话总结

本研究提出使用联邦学习（FL）实现多机构脑肿瘤分割，无需共享患者数据，从而在保护数据隐私的同时实现协作式深度学习。FL 的 Dice 分数达到 0.852，达到集中式训练性能的 99%（Dice=0.862），优于其他方法如机构增量学习和循环增量学习。

ABSTRACT

Deep learning models for semantic segmentation of images require large amounts of data. In the medical imaging domain, acquiring sufficient data is a significant challenge. Labeling medical image data requires expert knowledge. Collaboration between institutions could address this challenge, but sharing medical data to a centralized location faces various legal, privacy, technical, and data-ownership challenges, especially among international institutions. In this study, we introduce the first use of federated learning for multi-institutional collaboration, enabling deep learning modeling without sharing patient data. Our quantitative results demonstrate that the performance of federated semantic segmentation models (Dice=0.852) on multimodal brain scans is similar to that of models trained by sharing data (Dice=0.862). We compare federated learning with two alternative collaborative learning methods and find that they fail to match the performance of federated learning.

研究动机与目标

• 解决由于隐私、法律和数据所有权障碍导致的深度学习中获取足够标注医学影像数据的挑战。
• 评估联邦学习作为多机构医学影像协作中集中式数据共享的隐私保护替代方案。
• 在性能和稳定性方面，将 FL 与两种替代协作学习方法——机构增量学习（IIL）和循环机构增量学习（CIIL）——进行比较。
• 证明在不跨机构传输原始患者数据的前提下，训练高性能语义分割模型的可行性，适用于多模态脑 MRI 数据。

提出的方法

• 使用 U-Net 架构实现联邦学习，各机构在其自身数据上本地训练模型，并仅将模型更新（梯度）发送至中央服务器。
• 中央服务器使用加权平均法聚合这些模型更新，权重与各机构数据集的大小成正比。
• 更新后的全局模型随后重新分发至所有机构，用于下一轮本地训练，形成一次联邦训练轮次。
• 所有实验中一致使用学习率（5e-4）、批量大小（64）和 Adam 优化器等超参数。
• 在多种模拟联邦设置下评估该方法，包括 4 至 32 家机构，数据分布不平衡，反映真实机构的数据规模。
• 考虑采用差分隐私作为额外隐私保护措施，但由于训练速度下降的顾虑，本研究未完全实现该机制。

实验结果

研究问题

• RQ1 联邦学习是否能在不共享原始患者数据的前提下，实现与集中式训练相当的多机构脑肿瘤分割性能？
• RQ2 在模型性能和训练稳定性方面，联邦学习与 IIL 和 CIIL 等替代协作学习方法相比表现如何？
• RQ3 联邦学习在真实医学影像协作中常见的小样本、非平衡数据集下，是否能有效扩展至大量机构？
• RQ4 当机构数据量有限（如每所机构仅 6 例）时，联邦学习是否仍能保持高性能？
• RQ5 在不同机构数量和每轮训练轮次数下，联邦学习的收敛动态与稳定性特征如何？

主要发现

• 联邦学习实现了 0.852 的 Dice 分数，达到集中式训练性能的 99%（Dice=0.862），证明其在隐私保护协作中的强可行性。
• 机构增量学习（IIL）的性能显著劣于 FL，表明其不适合用于有效的多机构模型训练。
• 循环机构增量学习（CIIL）的稳定性较差，验证更困难，且频繁进行完整验证导致通信和计算成本增加。
• FL 在不同机构数量（16 和 32 所）下均表现出一致的收敛性，但每所机构样本较少时收敛速度变慢，因模型更新量较小。
• CIIL 的模型性能标准差是 FL 的 10 倍，凸显 FL 在稳定性方面的显著优势。
• 尽管存在数据不平衡和每所机构样本量小（如每所机构仅 6 例）的情况，FL 仍保持高性能，表明其对真实世界数据分布挑战具有鲁棒性。