[论文解读] Translation Consistent Semi-supervised Segmentation for 3D Medical Images

Yuyuan Liu, Yu Tian+5 more|arXiv (Cornell University)|Mar 28, 2022

Advanced Neural Network Applications被引用 7

一句话总结

本文提出 TraCoCo，一种新颖的半监督 3D 医疗图像分割方法，通过在未标注数据的平移视图之间强制一致性，减少对空间上下文的依赖，并提升前景目标的泛化能力。该方法引入了一种置信区域交叉熵（CRC）损失，以实现稳健且收敛的训练，并扩展了 3D CutMix 增广技术，在 LA、胰腺和 BRaTS19 数据集上实现了最先进性能，且标注数据极少。

ABSTRACT

3D medical image segmentation methods have been successful, but their dependence on large amounts of voxel-level annotated data is a disadvantage that needs to be addressed given the high cost to obtain such annotation. Semi-supervised learning (SSL) solve this issue by training models with a large unlabelled and a small labelled dataset. The most successful SSL approaches are based on consistency learning that minimises the distance between model responses obtained from perturbed views of the unlabelled data. These perturbations usually keep the spatial input context between views fairly consistent, which may cause the model to learn segmentation patterns from the spatial input contexts instead of the segmented objects. In this paper, we introduce the Translation Consistent Co-training (TraCoCo) which is a consistency learning SSL method that perturbs the input data views by varying their spatial input context, allowing the model to learn segmentation patterns from visual objects. Furthermore, we propose the replacement of the commonly used mean squared error (MSE) semi-supervised loss by a new Cross-model confident Binary Cross entropy (CBC) loss, which improves training convergence and keeps the robustness to co-training pseudo-labelling mistakes. We also extend CutMix augmentation to 3D SSL to further improve generalisation. Our TraCoCo shows state-of-the-art results for the Left Atrium (LA) and Brain Tumor Segmentation (BRaTS19) datasets with different backbones. Our code is available at https://github.com/yyliu01/TraCoCo.

研究动机与目标

• 解决现有半监督学习（SSL）方法在 3D 医疗成像中过度依赖空间输入上下文而非前景目标特征的局限性。
• 通过引入具有空间平移视图的协同训练框架，减少确认偏见并避免模型收敛至局部极小值。
• 通过一种聚焦于置信正负预测的新损失函数，提升训练收敛性与对伪标签错误的鲁棒性。
• 通过将 3D CutMix 增广扩展至半监督 3D 分割，提升泛化能力。
• 在标注数据有限的情况下，于主要 3D 医疗分割基准上实现最先进性能。

提出的方法

• TraCoCo 采用协同训练策略，其中两个独立初始化的模型通过同一未标注 3D 体积的平移视图之间的一致性进行训练。
• 通过仅在平移视图的交叠区域内计算分割一致性，强制实现平移一致性，从而降低对背景模式的依赖。
• 提出一种新型置信区域交叉熵（CRC）损失，聚焦于学生模型中最具置信度的预测（正样本与负样本），以提升收敛性与鲁棒性。
• CRC 损失仅应用于高置信度预测区域，从而最小化噪声或错误伪标签的影响。
• 通过在训练过程中混合来自不同体积的图像块，将 3D CutMix 增广扩展至 3D SSL，提升泛化能力与数据效率。
• 应用连通分量后处理方法，过滤掉小于输入体积 1/1500 的孤立假阳性区域，进一步提升分割精度。

实验结果

研究问题

• RQ1 在未标注 3D 医疗图像的平移视图之间强制一致性，是否能减少模型对背景模式的依赖，并提升对前景目标的泛化能力？
• RQ2 与基于标准 MSE 的损失相比，聚焦于高置信伪标签的置信度损失函数是否能提升训练收敛性与鲁棒性？
• RQ3 在标注数据有限的情况下，3D CutMix 增广是否能提升半监督 3D 医疗图像分割的泛化能力？
• RQ4 在多种 3D 医疗成像任务中，所提出的 TraCoCo 框架与最先进方法相比，其分割精度表现如何？
• RQ5 连通分量过滤等后处理技术对模型最终分割性能有何影响？

主要发现

• TraCoCo 在左心房（LA）、胰腺-CT（Pancreas）和脑肿瘤分割（BRaTS19）数据集上，所有评估指标（包括 Dice、mIoU 和 95HD）均达到最先进性能。
• 置信区域交叉熵（CRC）损失相比 MSE 损失，能产生更紧密的置信度聚类，使前景与背景体素的置信度分布更清晰，从而提升分割精度并加快收敛速度。
• 在胰腺-CT 数据集上，CRC 损失相比 MSE 损失使 Dice 评分提升 1.5%，mIoU 提升 2.1%。
• 采用 1/1500 输入体积作为阈值的连通分量后处理可有效减少假阳性，提升所有指标，且与 CRC 损失结合时效果最佳。
• 引入 3D CutMix 增广后，泛化能力进一步提升，尤其在低数据场景下表现显著，所有数据集均呈现一致的性能增益。
• 该方法平均每个体积耗时 1.386 秒（含后处理为 1.412 秒），在 BraTS19 上后处理仅增加 0.098 秒额外开销，展现出良好的实际效率。