[论文解读] FOAL: Fast Online Adaptive Learning for Cardiac Motion Estimation

Hanchao Yu, Shanhui Sun+5 more|arXiv (Cornell University)|Mar 10, 2020

Advanced MRI Techniques and Applications参考文献 45被引用 5

一句话总结

该论文提出 FOAL，一种用于心脏MRI视频中运动估计的快速在线自适应学习框架，使深度学习模型能够迅速适应临床环境中数据分布的变化。基于梯度下降的元学习在线优化器使 FOAL 在平均每个视频仅需 0.4 秒的情况下，实现了最先进的精度，显著优于在分布外数据上进行微调或离线训练的模型。

ABSTRACT

Motion estimation of cardiac MRI videos is crucial for the evaluation of human heart anatomy and function. Recent researches show promising results with deep learning-based methods. In clinical deployment, however, they suffer dramatic performance drops due to mismatched distributions between training and testing datasets, commonly encountered in the clinical environment. On the other hand, it is arguably impossible to collect all representative datasets and to train a universal tracker before deployment. In this context, we proposed a novel fast online adaptive learning (FOAL) framework: an online gradient descent based optimizer that is optimized by a meta-learner. The meta-learner enables the online optimizer to perform a fast and robust adaptation. We evaluated our method through extensive experiments on two public clinical datasets. The results showed the superior performance of FOAL in accuracy compared to the offline-trained tracking method. On average, the FOAL took only $0.4$ second per video for online optimization.

研究动机与目标

• 为解决深度学习模型在临床心脏MRI中因训练与测试数据之间存在领域差异而导致的性能下降问题。
• 实现在无需完整重训练的情况下，快速将预训练模型适应到新的、未见过的心脏MRI数据分布。
• 开发一种适用于实时临床部署的实用且高效的在线自适应机制。
• 克服在医学影像中常见的低数据场景下微调方法的局限性。

提出的方法

• 该框架包含两个阶段：离线元学习阶段和在线自适应学习阶段。
• 元学习器优化在线梯度下降优化器，以实现对新数据分布的快速且稳健的适应。
• 在线阶段仅使用新视频中的少量图像对进行模型更新，最大限度减少领域偏移的影响。
• 该方法对基础网络架构具有无关性，可与各种密集运动估计模型集成。
• 元学习器在多样化的心脏MRI数据上进行训练，以实现对解剖结构和成像差异的泛化能力。
• 在线优化器采用可微分的基于梯度的更新规则，并通过元学习联合优化，实现快速收敛。

实验结果

研究问题

• RQ1 是否可以在无需完整重训练或大量微调的情况下，快速将深度学习模型适应到新的心脏MRI数据分布？
• RQ2 元学习的在线优化在心脏运动估计中面对领域偏移时，对提升追踪精度的效果如何？
• RQ3 在数据量极少的临床场景下，该方法是否能通过极少的数据更新维持高性能？
• RQ4 与标准微调相比，该在线自适应机制是否能在分布内和分布外的心脏MRI数据集上均提升性能？
• RQ5 该方法在计算效率上是否足够高，可满足实时临床部署的需求？

主要发现

• 在分布内测试集上，FOAL 相较基线模型平均 Dice 分数提升 2.7%，在分布外测试集上提升 2.4%。
• 在仅使用 10% 训练数据的 ACDC 数据集上，FOAL 相较原始微调方法平均 Dice 分数提升 1.68%。
• 在线优化阶段每视频仅需 413±8 毫秒，适合实时临床应用。
• FOAL 在分布外数据上优于基线模型和微调模型，展现出对领域偏移的强鲁棒性。
• 即使在极少数据更新的情况下，该方法仍能保持高精度，表现出强大的泛化能力。
• 元学习优化器实现了在不同解剖结构和成像协议的多样化心脏MRI扫描中快速收敛与稳定适应。