[论文解读] Positional Contrastive Learning for Volumetric Medical Image Segmentation

Dewen Zeng, Yawen Wu+7 more|arXiv (Cornell University)|Jun 16, 2021

Domain Adaptation and Few-Shot Learning参考文献 26被引用 6

一句话总结

本文提出了一种新型自监督框架——位置对比学习（PCL），用于体素医学图像分割，通过基于3D体数据中空间位置生成对比对，以减少假阴性。通过将相邻切片视为正样本对，远距离切片视为负样本对，PCL提升了表征学习效果，在CT和MRI数据集的半监督与迁移学习设置下均取得了当前最优性能。

ABSTRACT

The success of deep learning heavily depends on the availability of large labeled training sets. However, it is hard to get large labeled datasets in medical image domain because of the strict privacy concern and costly labeling efforts. Contrastive learning, an unsupervised learning technique, has been proved powerful in learning image-level representations from unlabeled data. The learned encoder can then be transferred or fine-tuned to improve the performance of downstream tasks with limited labels. A critical step in contrastive learning is the generation of contrastive data pairs, which is relatively simple for natural image classification but quite challenging for medical image segmentation due to the existence of the same tissue or organ across the dataset. As a result, when applied to medical image segmentation, most state-of-the-art contrastive learning frameworks inevitably introduce a lot of false-negative pairs and result in degraded segmentation quality. To address this issue, we propose a novel positional contrastive learning (PCL) framework to generate contrastive data pairs by leveraging the position information in volumetric medical images. Experimental results on CT and MRI datasets demonstrate that the proposed PCL method can substantially improve the segmentation performance compared to existing methods in both semi-supervised setting and transfer learning setting.

研究动机与目标

• 为解决现有对比学习方法在3D医学图像分割中因体积间解剖相似性导致的高假阴性对率问题。
• 通过引入切片位置的空间上下文信息，改进体素医学图像中的自监督表征学习。
• 通过更有效地利用未标注体素数据，提升在标注数据有限情况下的下游分割性能。
• 在多种3D医学影像数据集上，于半监督与迁移学习场景下超越现有对比学习基线方法。

提出的方法

• PCL基于切片在z轴方向上的相对位置，从3D体数据中空间相近的切片生成正样本对。
• 负样本对由体积中相距较远的切片构成，从而降低因解剖相似性导致的假阴性概率。
• 在计算表示空间中的对比损失前，对切片应用标准数据增强（如旋转、裁剪）。
• 对比损失被应用于将正样本对的表征拉近，同时将负样本对的表征推远，以优化嵌入空间。
• 使用PCL预训练的编码器在下游分割任务中进行微调，仅需少量标注样本。
• 该框架在四个3D医学影像数据集（CHD、ACDC、MMWHS和HVSMR）上，采用交叉验证与迁移学习协议进行评估。

实验结果

研究问题

• RQ1 3D医学体数据中的位置信息是否能通过减少假阴性对来提升对比学习的质量？
• RQ2 在标注数据有限的条件下，PCL与现有对比学习方法在分割精度方面相比如何？
• RQ3 PCL在半监督与迁移学习设置下，是否能在不同成像模态与解剖结构间实现良好泛化？
• RQ4 以空间邻近性作为正样本对选择标准，相较于基于划分或随机采样策略，其性能优势在多大程度上更显著？

主要发现

• 在ACDC数据集上，PCL仅使用2个标注样本即取得0.929的Dice分数，较次优方法（GCL）高出0.016。
• 在CHD数据集上，PCL在低样本设置（2–4个标注样本）下，分割Dice分数相较GCL最高提升0.04。
• 在迁移学习中，PCL从CHD数据集迁移至MMWHS数据集，仅使用16个标注样本即取得0.869的Dice分数，超越最佳基线方法（GCL）0.018。
• 在HVSMR数据集上，PCL使用8个标注样本即取得0.857的Dice分数，较次优方法（GCL）高出0.014，表明其在不同成像协议间具有强大泛化能力。
• SimCLR在ACDC数据集上的表现甚至劣于随机初始化，表明标准增强策略的对比学习在3D医学数据中易导致过多假阴性。
• 当标注数据稀缺时，PCL的性能增益最为显著，表明其能有效利用未标注数据，显著提升样本效率。