[论文解读] Momentum Contrastive Voxel-wise Representation Learning for Semi-supervised Volumetric Medical Image Segmentation

Chenyu You, Ruihan Zhao+2 more|arXiv (Cornell University)|May 14, 2021

Domain Adaptation and Few-Shot Learning参考文献 31被引用 17

一句话总结

本文提出对比体素表示学习（CVRL），一种半监督3D医学图像分割框架，通过双层对比学习增强特征多样性——同时利用体素级（批量级）和维度级（特征级）的对比目标。通过整合实例内特征多样性正则化与高层3D空间上下文建模，CVRL在基准数据集上实现最先进性能，在仅10%标注数据下Dice分数较之前方法最高提升5.21%。

ABSTRACT

Contrastive learning (CL) aims to learn useful representation without relying on expert annotations in the context of medical image segmentation. Existing approaches mainly contrast a single positive vector (i.e., an augmentation of the same image) against a set of negatives within the entire remainder of the batch by simply mapping all input features into the same constant vector. Despite the impressive empirical performance, those methods have the following shortcomings: (1) it remains a formidable challenge to prevent the collapsing problems to trivial solutions; and (2) we argue that not all voxels within the same image are equally positive since there exist the dissimilar anatomical structures with the same image. In this work, we present a novel Contrastive Voxel-wise Representation Learning (CVRL) method to effectively learn low-level and high-level features by capturing 3D spatial context and rich anatomical information along both the feature and the batch dimensions. Specifically, we first introduce a novel CL strategy to ensure feature diversity promotion among the 3D representation dimensions. We train the framework through bi-level contrastive optimization (i.e., low-level and high-level) on 3D images. Experiments on two benchmark datasets and different labeled settings demonstrate the superiority of our proposed framework. More importantly, we also prove that our method inherits the benefit of hardness-aware property from the standard CL approaches.

研究动机与目标

• 通过利用大规模未标注数据，解决体积分割中有限标注3D医学扫描的挑战。
• 通过引入实例内（特征级）约束，克服对比学习中的维度坍塌问题，以促进特征多样性。
• 通过联合建模3D特征空间中的低层空间相关性与高层上下文表征，提升分割精度。
• 开发一种即插即用的对比学习框架，兼容现有医学影像半监督学习流程。

提出的方法

• 提出一种新颖的双层对比学习策略：在3D子空间中进行低层对比以捕捉局部解剖细节，同时在特征空间中进行高层对比以建模全局上下文。
• 提出一种维度对比目标，强制在每个3D扫描的通道维度上实现特征多样性，防止出现平凡解。
• 采用3D投影头编码高层表征，使模型能够学习对数据增强不变的判别性嵌入。
• 集成一致性损失作为正则化项以提升模型鲁棒性，同时保持与现有半监督框架的兼容性。
• 使用基于动量的更新机制稳定训练过程中的动量编码器，增强不同视图间表征的一致性。
• 在空间和特征维度上应用强增强策略，结合新颖的特征级对比损失，确保增强视图不会坍缩为相同向量。

实验结果

研究问题

• RQ1 实例内（特征级）对比学习是否能有效防止3D医学图像表征学习中的维度坍塌？
• RQ2 在低监督设置下，联合优化低层与高层对比目标是否能提升分割性能？
• RQ3 在标注数据有限条件下，所提方法在边界精度与泛化能力方面相较于最先进半监督3D分割模型表现如何？
• RQ4 体素级与维度级对比学习在模型性能中分别发挥多大作用，又如何协同增效？

主要发现

• 在LA-Net数据集上，使用10%标注数据（8个标注扫描）时，CVRL达到88.56%的Dice分数，较基线提升5.47个百分点。
• 在20%标注数据下，CVRL实现90.45%的Dice分数与83.02%的Jaccard指数，展现出更优的边界精度与形状一致性。
• 消融实验表明，结合高层、低层与一致性损失可获得最佳性能，较基线降低ASD 48.3%、95HD 58.0%。
• 在胰腺数据集上，CVRL相较最先进方法在Dice分数上实现3.25–5.21%的相对提升，凸显其在不同解剖结构上的鲁棒性。
• 该方法继承了对比学习的难度感知特性，有助于在复杂3D解剖背景下学习更具判别性的表征。
• 可视化结果表明，即使在极端标注稀缺条件下，CVRL仍能生成更准确、更一致的分割掩码，尤其在边界区域表现更优。