[论文解读] Continual Learning for Peer-to-Peer Federated Learning: A Study on Automated Brain Metastasis Identification

Yixing Huang, Christoph Bert+6 more|arXiv (Cornell University)|Apr 26, 2022

Domain Adaptation and Few-Shot Learning被引用 9

一句话总结

本研究提出一种基于突触智能（SI）的点对点联邦学习框架，用于持续学习，以实现在不共享原始数据的前提下，多中心协作进行脑转移瘤（BM）分割。通过在各中心依次使用SI训练DeepMedic模型以防止灾难性遗忘，该方法在七中心场景下实现了0.914的敏感度，与在混合数据上进行集中式训练的性能相当，同时将中心间的通信量降至仅六次交换。

ABSTRACT

Due to data privacy constraints, data sharing among multiple centers is restricted. Continual learning, as one approach to peer-to-peer federated learning, can promote multicenter collaboration on deep learning algorithm development by sharing intermediate models instead of training data. This work aims to investigate the feasibility of continual learning for multicenter collaboration on an exemplary application of brain metastasis identification using DeepMedic. 920 T1 MRI contrast enhanced volumes are split to simulate multicenter collaboration scenarios. A continual learning algorithm, synaptic intelligence (SI), is applied to preserve important model weights for training one center after another. In a bilateral collaboration scenario, continual learning with SI achieves a sensitivity of 0.917, and naive continual learning without SI achieves a sensitivity of 0.906, while two models trained on internal data solely without continual learning achieve sensitivity of 0.853 and 0.831 only. In a seven-center multilateral collaboration scenario, the models trained on internal datasets (100 volumes each center) without continual learning obtain a mean sensitivity value of 0.699. With single-visit continual learning (i.e., the shared model visits each center only once during training), the sensitivity is improved to 0.788 and 0.849 without SI and with SI, respectively. With iterative continual learning (i.e., the shared model revisits each center multiple times during training), the sensitivity is further improved to 0.914, which is identical to the sensitivity using mixed data for training. Our experiments demonstrate that continual learning can improve brain metastasis identification performance for centers with limited data. This study demonstrates the feasibility of applying continual learning for peer-to-peer federated learning in multicenter collaboration.

研究动机与目标

• 为解决数据隐私限制导致的医学深度学习中多中心协作受限的问题。
• 评估在点对点联邦学习中应用持续学习进行脑转移瘤分割的可行性。
• 比较朴素持续学习与SI正则化持续学习在跨中心保持模型精度方面的性能差异。
• 证明低通信、去中心化的训练可与集中式训练在多中心场景下达到相当的性能。
• 评估在真实临床场景中，迭代式持续学习（ICL）对模型敏感度和假阳性率的影响。

提出的方法

• 采用DeepMedic U-Net架构对T1加权增强MRI影像体积进行3D脑转移瘤分割。
• 将单中心获取的920个体素MRI影像划分为模拟的多中心数据集（每中心100个体素），以模拟真实世界协作。
• 应用突触智能（SI）作为正则化技术，以在跨中心顺序训练过程中保留关键权重。
• 通过单次访问（SVCL）和迭代式持续学习（ICL）策略实现点对点联邦学习，其中模型多次回访每个中心。
• 使用敏感度、假阳性率（AFPR）和Dice分数评估模型性能，并与混合数据集中式训练结果进行比较。
• 所有中心使用相同的预处理流程（头骨剥离、强度归一化及分辨率统一），以减少领域偏移。

实验结果

研究问题

• RQ1 通过点对点联邦学习实现的持续学习能否在不共享原始数据的情况下达到与集中式训练相当的性能？
• RQ2 突触智能（SI）如何提升在顺序多中心训练中模型的保留能力与性能？
• RQ3 与单次访问持续学习（SVCL）相比，迭代式持续学习（ICL）对敏感度和假阳性率的影响如何？
• RQ4 在多中心脑转移瘤分割中，低通信、去中心化训练能否优于朴素迁移学习？
• RQ5 在各中心数据异质性条件下，模型性能如何变化？SI能否缓解领域偏移的影响？

主要发现

• 在双边协作中，基于SI的持续学习实现了0.917的敏感度，优于朴素持续学习（0.906）和单中心独立训练（0.853和0.831）。
• 在七中心多方场景中，采用SI的迭代持续学习（ICL）达到0.914的敏感度，与在混合数据上集中训练的性能完全一致。
• 未使用SI时，ICL将敏感度提升至0.914；使用SI后同样达到0.914，表明SI在不同训练模式下均提供稳定增益。
• 所有基于ICL的方法中，假阳性率（AFPR）均低于0.7，接近文献[60]报道的最先进水平0.5。
• 采用SI的ICL在仅需中心间六次通信的情况下，实现了与集中训练相同的敏感度（0.914），证明了其极低的通信成本。
• 该方法显著优于在有限数据上孤立训练的模型（平均敏感度0.699），凸显了协作学习的优势。