[论文解读] Double-Uncertainty Weighted Method for Semi-supervised Learning

Yixin Wang, Yao Zhang+5 more|arXiv (Cornell University)|Oct 19, 2020

Advanced Neural Network Applications参考文献 13被引用 12

一句话总结

本文提出了一种基于教师-学生框架的双不确定性加权方法，用于半监督医学图像分割。通过在贝叶斯深度学习设置下利用蒙特卡洛丢弃法估计分割不确定性与新型特征不确定性，该方法动态加权一致性损失，以提升教师模型的可靠性与学生模型的学习效果，在两个公开数据集上仅使用极少标注数据即实现了最先进性能。

ABSTRACT

Though deep learning has achieved advanced performance recently, it remains a challenging task in the field of medical imaging, as obtaining reliable labeled training data is time-consuming and expensive. In this paper, we propose a double-uncertainty weighted method for semi-supervised segmentation based on the teacher-student model. The teacher model provides guidance for the student model by penalizing their inconsistent prediction on both labeled and unlabeled data. We train the teacher model using Bayesian deep learning to obtain double-uncertainty, i.e. segmentation uncertainty and feature uncertainty. It is the first to extend segmentation uncertainty estimation to feature uncertainty, which reveals the capability to capture information among channels. A learnable uncertainty consistency loss is designed for the unsupervised learning process in an interactive manner between prediction and uncertainty. With no ground-truth for supervision, it can still incentivize more accurate teacher's predictions and facilitate the model to reduce uncertain estimations. Furthermore, our proposed double-uncertainty serves as a weight on each inconsistency penalty to balance and harmonize supervised and unsupervised training processes. We validate the proposed feature uncertainty and loss function through qualitative and quantitative analyses. Experimental results show that our method outperforms the state-of-the-art uncertainty-based semi-supervised methods on two public medical datasets.

研究动机与目标

• 为解决获取标注医学影像数据成本高、耗时长的问题。
• 通过在训练过程中引入不确定性估计，提升教师-学生半监督学习的可靠性。
• 提出并验证一种新型的特征不确定性度量，用于捕捉卷积核通道间的不确定性。
• 设计一种可学习的不确定性一致性损失，通过与模型预测结果交互，无需真实标签监督即可优化教师模型输出。
• 利用不确定性作为动态加权机制，平衡监督与无监督训练。

提出的方法

• 教师模型通过蒙特卡洛丢弃法训练，以近似贝叶斯神经网络，从而实现对分割不确定性与特征不确定性的估计。
• 在卷积层（具体为第4个上采样层）的通道上计算特征不确定性，以评估各通道特征提取的可靠性。
• 引入一种可学习的不确定性一致性损失，通过最小化学生与教师输出之间的一致性差异，结合不确定性估计迭代优化教师模型的预测结果。
• 总损失函数结合了标注数据上的监督交叉熵损失，以及对标注与未标注数据的不确定性加权一致性损失。
• 不确定性估计作为一致性损失中的自适应权重，降低高不确定性预测在训练中的影响。
• 该方法在两个公开医学影像基准数据集上进行评估：2018年心房分割挑战赛与MICCAI 2019 KiTS挑战赛。

实验结果

研究问题

• RQ1 特征不确定性（一种新型的卷积核通道间不确定性）是否能提升半监督分割中模型的可解释性与性能？
• RQ2 一种与模型预测结果交互的可学习不确定性一致性损失，是否能在无真实标签监督下提升教师模型的准确性？
• RQ3 基于不确定性的损失加权机制如何影响半监督学习中监督与无监督训练之间的平衡？
• RQ4 当标注数据稀缺时，所提出方法是否优于现有的基于不确定性的半监督方法？
• RQ5 不确定性估计在多大程度上有助于过滤不可靠预测，提升医学图像分割的泛化能力？

主要发现

• 在KiTS 2019肾脏分割数据集上，该方法仅使用10张标注扫描即达到0.9206的Dice分数，优于所有基线方法。
• 使用32张标注扫描时，Dice分数达到0.9365，表明在最先进方法上持续取得性能提升。
• 所提出的不确定性一致性损失在训练过程中降低了教师模型的预测不确定性，如图2(c)所示，平均分割不确定性值持续下降。
• 特征不确定性分析显示，各通道的不确定性值随训练过程下降，表明特征提取的可靠性得到提升。
• 即使在极少数标注样本（如4张标注扫描）下，该方法也显著提升了性能，Dice分数排名第一。
• 不确定性权重机制显著提升了基线方法（如UA-MT）的性能，与不确定性加权结合后Dice分数提升了0.0087。