[论文解读] Inconsistency-aware Uncertainty Estimation for Semi-supervised Medical Image Segmentation

Yinghuan Shi, Jian Zhang+6 more|arXiv (Cornell University)|Oct 17, 2021

COVID-19 diagnosis using AI被引用 7

一句话总结

本文提出 CoraNet，一种半监督医学图像分割模型，通过在不同误分类代价下估计预测不一致性来实现不确定性估计，并利用保守-激进模块识别确定与不确定区域。该方法在 CT 胰腺、MR 心内膜及 ACDC 多结构分割任务中达到最先进性能，Dice 分数最高提升 1.5%，并接近完全监督性能。

ABSTRACT

In semi-supervised medical image segmentation, most previous works draw on the common assumption that higher entropy means higher uncertainty. In this paper, we investigate a novel method of estimating uncertainty. We observe that, when assigned different misclassification costs in a certain degree, if the segmentation result of a pixel becomes inconsistent, this pixel shows a relative uncertainty in its segmentation. Therefore, we present a new semi-supervised segmentation model, namely, conservative-radical network (CoraNet in short) based on our uncertainty estimation and separate self-training strategy. In particular, our CoraNet model consists of three major components: a conservative-radical module (CRM), a certain region segmentation network (C-SN), and an uncertain region segmentation network (UC-SN) that could be alternatively trained in an end-to-end manner. We have extensively evaluated our method on various segmentation tasks with publicly available benchmark datasets, including CT pancreas, MR endocardium, and MR multi-structures segmentation on the ACDC dataset. Compared with the current state of the art, our CoraNet has demonstrated superior performance. In addition, we have also analyzed its connection with and difference from conventional methods of uncertainty estimation in semi-supervised medical image segmentation.

研究动机与目标

• 解决传统半监督医学图像分割中不确定性估计的局限性，后者依赖于基于 Softmax 的置信度和预设阈值。
• 通过在代价敏感设置下识别预测不一致的区域，提升模型初始化的可靠性。
• 开发一种独立的自训练策略，对确定与不确定区域区别对待，以提升鲁棒性。
• 实现统一模型的端到端训练，联合优化未标记数据中的确定性与不确定性。
• 在基准数据集上实现更优的分割精度，同时减少来自噪声伪标签的误差传播。

提出的方法

• 该方法引入保守-激进模块（CRM），通过训练两个子网络，分别采用 1:5（保守）和 5:1（激进）的误分类代价，以诱导预测不一致性。
• 在两个模型中预测一致的区域被分类为确定区域；预测不一致的区域被视为不确定区域，从而形成动态不确定性图。
• 模型由三部分组成：保守-激进模块（CRM）、确定区域分割网络（C-SN）和不确定区域分割网络（UC-SN），实现端到端训练。
• 采用独立的自训练策略：C-SN 在确定区域上训练，UC-SN 在不确定区域上训练，从而减少误差传播。
• 框架使用标准数据增强（旋转、翻转、裁剪）以及置信度加权的多数投票策略处理多分类分割任务。
• 该方法以 Dice 分数为主要评估指标，所有实验均采用 20% 标注数据与 80% 未标注数据。

实验结果

研究问题

• RQ1 在不同误分类代价下，预测不一致性能否作为半监督医学图像分割中不确定性估计的可靠代理？
• RQ2 将自训练过程分离为确定与不确定区域，是否相比联合训练能提升分割性能？
• RQ3 所提出的不一致性感知不确定性估计相较于传统基于 Softmax 的置信度，在鲁棒性与准确性方面表现如何？
• RQ4 该方法在训练过程中在多大程度上能减少来自噪声伪标签的误差传播？
• RQ5 该不确定性感知策略能否在仅使用极少标注数据的情况下实现接近监督学习的性能？

主要发现

• 在 ACDC 数据集上，CoraNet 实现了 86.10%（±0.62）的平均 Dice 分数，优于所有对比基线方法，较之前最先进方法高出 0.34%。
• 在多结构分割任务中，CoraNet 对心肌的 Dice 分数为 84.87%，左心室为 90.74%，右心室为 82.69%。
• 通过将不确定区域从主训练循环中隔离，该方法有效减少了误差传播，实现了更稳定的收敛。
• 可视化对比显示，CoraNet 在挑战性区域的边界预测比 Mean Teacher 更清晰、更准确。
• 模型性能始终接近完全监督基线（88.79% 平均 Dice），表明在标注数据有限的情况下具有强大的泛化能力。
• 消融实验证实，与联合训练相比，独立的自训练策略显著提升了性能，验证了该设计选择的有效性。