[论文解读] Continual Learning for Domain Adaptation in Chest X-ray Classification

Matthias Lenga, Heinrich Schulz+1 more|arXiv (Cornell University)|Jan 16, 2020

COVID-19 diagnosis using AI参考文献 13被引用 13

一句话总结

本文研究了持续学习（CL）技术——联合训练（JT）、弹性权重固化（EWC）和灾难性遗忘学习（LWF）——以缓解在将模型适应到新领域时，胸部X光片分类任务中出现的灾难性遗忘问题。基于ChestX-ray14和MIMIC-CXR数据集，研究发现JT表现最佳，而LWF在无需访问源域数据的情况下也取得了具有竞争力的结果。

ABSTRACT

Over the last years, Deep Learning has been successfully applied to a broad range of medical applications. Especially in the context of chest X-ray classification, results have been reported which are on par, or even superior to experienced radiologists. Despite this success in controlled experimental environments, it has been noted that the ability of Deep Learning models to generalize to data from a new domain (with potentially different tasks) is often limited. In order to address this challenge, we investigate techniques from the field of Continual Learning (CL) including Joint Training (JT), Elastic Weight Consolidation (EWC) and Learning Without Forgetting (LWF). Using the ChestX-ray14 and the MIMIC-CXR datasets, we demonstrate empirically that these methods provide promising options to improve the performance of Deep Learning models on a target domain and to mitigate effectively catastrophic forgetting for the source domain. To this end, the best overall performance was obtained using JT, while for LWF competitive results could be achieved - even without accessing data from the source domain.

研究动机与目标

• 解决深度学习模型在适应新医学影像领域时出现灾难性遗忘的挑战。
• 探究CL技术是否能在不重新训练源数据的情况下，提升模型在目标领域（如MIMIC-CXR）的泛化能力。
• 评估基于正则化的CL方法（EWC、LWF）在医学影像中的可行性，特别是在数据隐私受限条件下的适用性。
• 将CL策略的性能与标准微调方法在跨领域胸部X光片分类中的表现进行对比。
• 证明CL能够在保持先前学习的源任务性能的同时，实现有效的领域自适应。

提出的方法

• 通过在微调过程中同时对源域（ChestX-ray14）和目标域（MIMIC-CXR）进行联合优化，应用联合训练（JT）。
• 采用弹性权重固化（EWC）基于费舍尔信息对模型参数进行正则化，以保留源域的知识。
• 使用灾难性遗忘学习（LWF）通过源模型的软标签蒸馏来保留知识，从而在适应目标域时实现知识保留。
• 在ChestX-ray14上训练ResNet-50主干网络，并使用CL策略在MIMIC-CXR上进行微调，其中JT中源数据的比例有所不同。
• 使用14种胸部X光片异常的平均AUC评估模型性能，标准差基于多次运行结果报告。
• 采用以任务为中心的形式化方法，其中第一个任务为ChestX-ray14，第二个任务为MIMIC-CXR，模拟顺序性领域自适应。

实验结果

研究问题

• RQ1 当将胸部X光片分类器适应到新领域时，持续学习技术能否有效减轻灾难性遗忘？
• RQ2 在提升目标领域性能的同时，联合训练与基于正则化的方法（EWC、LWF）在保留源领域性能方面表现如何比较？
• RQ3 LWF在不访问源域训练数据的情况下，能在多大程度上实现具有竞争力的性能？
• RQ4 在JT中改变源域数据比例对跨领域性能泛化有何影响？
• RQ5 持续学习是否能提升模型在真实世界医学影像应用中对领域偏移的鲁棒性？

主要发现

• 在JT中完全包含源数据（100%）时，在MIMIC-CXR测试集上达到最高的平均AUC 0.8189，优于标准微调方法。
• LWF在未访问任何源域数据的情况下，于MIMIC-CXR上实现了0.8256的平均AUC，展现出强大的零样本领域自适应能力。
• EWC在MIMIC-CXR上实现了0.8250的平均AUC，表现具有竞争力，且计算开销极低。
• 即使在JT中仅使用20%的源数据，MIMIC-CXR上的性能仍达到0.8160的平均AUC，表明部分访问源数据即可获得良好结果。
• 原始ChestX-ray14模型在MIMIC-CXR上的性能显著下降（平均AUC 0.7708），凸显了无适应情况下领域偏移的严重性。
• 在源域（ChestX-ray14）上，所有CL方法均保持或略微提升了性能，相比标准微调，JT在该域上达到0.8106的平均AUC。