[论文解读] Uncertainty-aware Self-ensembling Model for Semi-supervised 3D Left Atrium Segmentation

Lequan Yu, Shujun Wang+3 more|arXiv (Cornell University)|Jul 16, 2019

Advanced Neural Network Applications参考文献 17被引用 77

一句话总结

本文提出一种不确定性感知的均值教师框架（UA-MT），用于来自 MR 图像的三维左心耳分割的半监督，通过不确定性引导的一致性学习来利用未标记数据，以超越现有方法。

ABSTRACT

Training deep convolutional neural networks usually requires a large amount of labeled data. However, it is expensive and time-consuming to annotate data for medical image segmentation tasks. In this paper, we present a novel uncertainty-aware semi-supervised framework for left atrium segmentation from 3D MR images. Our framework can effectively leverage the unlabeled data by encouraging consistent predictions of the same input under different perturbations. Concretely, the framework consists of a student model and a teacher model, and the student model learns from the teacher model by minimizing a segmentation loss and a consistency loss with respect to the targets of the teacher model. We design a novel uncertainty-aware scheme to enable the student model to gradually learn from the meaningful and reliable targets by exploiting the uncertainty information. Experiments show that our method achieves high performance gains by incorporating the unlabeled data. Our method outperforms the state-of-the-art semi-supervised methods, demonstrating the potential of our framework for the challenging semi-supervised problems.

研究动机与目标

• 通过利用大量未标记的 MR 图像，降低三维左心耳分割对标注数据的需求。
• 开发一个不确定性感知的半监督框架，在自构建中提高目标的可靠性。
• 在 MICCAI 2018 年的房颤分割挑战数据集上证明优于现有半监督方法。

提出的方法

• 构建一个教师-学生自蒸馏框架，其中教师向学生提供目标。
• 使用蒙特卡洛Dropout和多次前向传播来估计教师输出的体素级预测不确定性。
• 应用一种不确定性引导的一致性损失，仅在低不确定性（可靠）目标上强制一致性。
• 使用指数移动平均（EMA）从学生模型更新教师模型（均值教师）。
• 对有监督和一致性损失使用随时间的阶跃式增强以稳定训练。

实验结果

研究问题

• RQ1 在半监督分割设置中，不确定性估计是否能提升教师提供目标的可靠性？
• RQ2 将未标记数据与不确定性感知的一致性损失结合，是否相较于完全监督基线和其他半监督方法提升左心耳分割性能？
• RQ3 在标注数据有限且未标记数据量不同的情况下，UA-MT 的表现如何？

主要发现

• 在测试集上，使用16个标注和64个未标注扫描时，UA-MT取得 Dice 88.88% 与 Jaccard 80.21%。
• 在同一设置下，UA-MT 将 ASD 降至 2.26 个体素，95HD 降至 7.32 个体素。
• 与其他半监督方法（自训练、DAN、ASDNet、TCSE）相比，UA-MT 在 Dice/Jaccard 上取得更优增益，并在 ASD/95HD 上具有竞争力，接近全监督性能。
• 消融研究显示不确定性引导的变体优于标准 MT 和 MT-Dice 方法。
• 不确定性可视化显示边界附近的不确定性更高，与分割难点相一致。