[论文解读] Contrastive Semi-Supervised Learning for 2D Medical Image Segmentation

Prashant Pandey, Ajey Pai+5 more|arXiv (Cornell University)|Jun 12, 2021

Domain Adaptation and Few-Shot Learning参考文献 29被引用 8

一句话总结

该论文提出了一种用于2D医学图像分割的对比性弱监督学习方法，该方法在由伪标签区域生成的语义感知图像块上应用对比学习，并结合一种新颖的一致性正则化方案，以减轻确认偏倚并改善特征聚类。该方法在四个公开数据集和一个新引入的组织病理学数据集上均取得了最先进性能。

ABSTRACT

Contrastive Learning (CL) is a recent representation learning approach, which encourages inter-class separability and intra-class compactness in learned image representations. Since medical images often contain multiple semantic classes in an image, using CL to learn representations of local features (as opposed to global) is important. In this work, we present a novel semi-supervised 2D medical segmentation solution that applies CL on image patches, instead of full images. These patches are meaningfully constructed using the semantic information of different classes obtained via pseudo labeling. We also propose a novel consistency regularization (CR) scheme, which works in synergy with CL. It addresses the problem of confirmation bias, and encourages better clustering in the feature space. We evaluate our method on four public medical segmentation datasets and a novel histopathology dataset that we introduce. Our method obtains consistent improvements over state-of-the-art semi-supervised segmentation approaches for all datasets.

研究动机与目标

• 为解决2D分割任务中医学图像标注数据有限的挑战，利用弱监督学习方法。
• 通过聚焦于局部、类别特定的特征而非全局图像级表征，改进医学图像的表征学习。
• 通过引入一种新颖的一致性正则化方案，减轻伪标签过程中的确认偏倚。
• 通过联合优化对比学习与一致性正则化，增强特征空间的聚类性能。
• 在多样化的医学影像数据集上验证该方法，包括一个新引入的组织病理学数据集。

提出的方法

• 利用教师模型生成的伪标签从感兴趣区域构建图像块，确保其语义相关性。
• 在这些语义有意义的图像块上应用对比学习，以在特征空间中实现类内紧凑性和类间可分性。
• 引入一种一致性正则化方案，鼓励对同一图像块的不同增强版本产生一致的预测，从而减少确认偏倚。
• 在训练过程中联合优化对比损失与一致性正则化损失，以提升特征质量与模型泛化能力。
• 采用学生-教师框架，其中教师模型为学生模型提供伪标签，学生模型通过分割目标与对比目标的组合进行更新。
• 采用针对医学图像定制的数据增强策略，以生成对比学习所需的正样本对与负样本对。

实验结果

研究问题

• RQ1 与全局图像级对比学习相比，对语义感知图像块进行对比学习是否能显著提升2D医学图像分割的表征学习效果？
• RQ2 所提出的 consistency regularization 方案是否能有效减少弱监督训练过程中的确认偏倚？
• RQ3 对比学习与一致性正则化的联合优化在多大程度上提升了特征空间中的聚类性能？
• RQ4 该方法在包括组织病理学在内的多种医学影像领域中具有多大程度的泛化能力？
• RQ5 该方法是否在公开数据集与新引入的医学分割基准上均实现了最先进性能？

主要发现

• 所提出的方法在所有四个公开医学影像数据集上，均持续优于当前最先进弱监督分割方法。
• 使用语义感知图像块显著提升了特征表示质量，相较于随机采样或全局块采样效果更优。
• 新颖的一致性正则化方案有效减少了确认偏倚，带来更鲁棒的伪标签生成与更强的模型泛化能力。
• 该方法在新引入的组织病理学数据集上表现出强大的泛化能力，证实其在多样化医学影像领域中的适用性。
• 对比学习与一致性正则化的联合优化显著改善了嵌入空间中特征的聚类效果，表现为分割准确率的提升。
• 该模型在无需额外推理时间模块或复杂架构修改的情况下，实现了最先进性能。