[论文解读] Dual-Decoder Consistency via Pseudo-Labels Guided Data Augmentation for Semi-Supervised Medical Image Segmentation

Yuanbin Chen, Tao Wang+7 more|arXiv (Cornell University)|Aug 31, 2023

Image Retrieval and Classification TechniquesComputer Science被引用 3

一句话总结

本文提出DCPA，一种半监督医学图像分割方法，采用双解码器架构，结合一致性正则化与伪标签引导的数据增强，以在标注数据有限的情况下提升性能。通过教师网络生成伪标签，并利用类似mixup的策略增强训练数据，DCPA在三个基准数据集上均取得最先进结果，尤其在仅使用5%标注数据时表现突出。

ABSTRACT

While supervised learning has achieved remarkable success, obtaining large-scale labeled datasets in biomedical imaging is often impractical due to high costs and the time-consuming annotations required from radiologists. Semi-supervised learning emerges as an effective strategy to overcome this limitation by leveraging useful information from unlabeled datasets. In this paper, we present a novel semi-supervised learning method, Dual-Decoder Consistency via Pseudo-Labels Guided Data Augmentation (DCPA), for medical image segmentation. We devise a consistency regularization to promote consistent representations during the training process. Specifically, we use distinct decoders for student and teacher networks while maintain the same encoder. Moreover, to learn from unlabeled data, we create pseudo-labels generated by the teacher networks and augment the training data with the pseudo-labels. Both techniques contribute to enhancing the performance of the proposed method. The method is evaluated on three representative medical image segmentation datasets. Comprehensive comparisons with state-of-the-art semi-supervised medical image segmentation methods were conducted under typical scenarios, utilizing 10% and 20% labeled data, as well as in the extreme scenario of only 5% labeled data. The experimental results consistently demonstrate the superior performance of our method compared to other methods across the three semi-supervised settings. The source code is publicly available at https://github.com/BinYCn/DCPA.git.

研究动机与目标

• 为解决医学图像标注数据有限的问题，该问题从放射科医生处获取成本高且耗时长。
• 通过有效利用未标注数据，提升半监督医学图像分割的泛化能力与鲁棒性。
• 缓解在低数据环境下因数据不平衡与噪声伪标签导致的性能下降问题。
• 通过新颖的双解码器架构与引导式数据增强，提升模型一致性与分割精度。
• 建立一个在极端标注稀缺情况下（如仅5%标注数据）仍表现强劲的稳健框架。

提出的方法

• 该方法采用均值教师框架，共享编码器，并为学生与教师网络设计两个独立的解码器。
• 教师网络在未标注数据上生成伪标签，并利用这些伪标签指导数据增强，通过混合标注与未标注样本实现。
• 采用类似mixup的数据增强策略，通过加权平均结合标注样本与伪标注样本，提升训练多样性。
• 在两个解码器之间应用一致性正则化，强制预测结果保持一致，提升模型鲁棒性。
• 通过温度系数的锐化函数优化伪标签置信度，提升边界清晰度。
• 训练过程同时优化两个解码器的一致性损失，并端到端联合优化学生与教师网络。

实验结果

研究问题

• RQ1 在低标注数据条件下，采用一致性正则化的双解码器架构能否提升半监督医学图像分割性能？
• RQ2 在标注数据稀缺时，伪标签引导的数据增强在提升模型泛化能力方面效果如何？
• RQ3 在不同数据集上实现稳健性能的最优弱增强次数与锐化温度应为多少？
• RQ4 在极端标注稀缺（如5%标注数据）条件下，该方法性能如何？
• RQ5 所提出方法能否在多种医学图像分割场景中超越现有最先进半监督方法？

主要发现

• 在三个公开医学图像分割数据集上，DCPA在所有评估设置下均优于六种最先进方法，包括5%标注数据设置。
• 仅使用5%标注数据时，DCPA在Pancreas-CT数据集上达到83.05%的Dice分数，展现出在极端低数据条件下的强大性能。
• 当弱增强次数K=2时性能达到峰值，表明在低标注条件下对增强数量敏感。
• 锐化函数中温度系数T=0.1时表现最佳，有效平衡了置信度与边界清晰度。
• 双解码器一致性损失显著提升了性能，尤其在结合伪标签引导数据增强时效果更明显。
• 该方法在不同数据集与标注比例下均表现出鲁棒性，Dice分数持续优于基线模型。