[论文解读] Bootstrapping Semi-supervised Medical Image Segmentation with Anatomical-aware Contrastive Distillation

Chenyu You, Weicheng Dai+3 more|arXiv (Cornell University)|Jun 6, 2022

Medical Imaging and Analysis被引用 7

一句话总结

ACTION 提出了一种解剖感知的对比蒸馏框架，用于半监督医学图像分割，通过使用负样本的软标签和主动采样硬负像素，在类别不平衡的数据集上提升了性能。该方法在 ACDC 和 LiTS 数据集上均优于当前最先进方法，在仅使用 3% 标注数据的情况下，ACDC 数据集上的 Dice 分数达到 87.5%。

ABSTRACT

Contrastive learning has shown great promise over annotation scarcity problems in the context of medical image segmentation. Existing approaches typically assume a balanced class distribution for both labeled and unlabeled medical images. However, medical image data in reality is commonly imbalanced (i.e., multi-class label imbalance), which naturally yields blurry contours and usually incorrectly labels rare objects. Moreover, it remains unclear whether all negative samples are equally negative. In this work, we present ACTION, an Anatomical-aware ConTrastive dIstillatiON framework, for semi-supervised medical image segmentation. Specifically, we first develop an iterative contrastive distillation algorithm by softly labeling the negatives rather than binary supervision between positive and negative pairs. We also capture more semantically similar features from the randomly chosen negative set compared to the positives to enforce the diversity of the sampled data. Second, we raise a more important question: Can we really handle imbalanced samples to yield better performance? Hence, the key innovation in ACTION is to learn global semantic relationship across the entire dataset and local anatomical features among the neighbouring pixels with minimal additional memory footprint. During the training, we introduce anatomical contrast by actively sampling a sparse set of hard negative pixels, which can generate smoother segmentation boundaries and more accurate predictions. Extensive experiments across two benchmark datasets and different unlabeled settings show that ACTION significantly outperforms the current state-of-the-art semi-supervised methods.

研究动机与目标

• 解决医学图像分割中的类别不平衡问题，因为稀有结构常因数据分布偏斜而被错误分类。
• 克服标准对比学习的局限性，即对所有负样本一视同仁，可能引入虚假负样本。
• 通过学习平衡且全局一致的表征，同时保留局部解剖特征，提升分割质量。
• 通过在训练过程中使用主动采样和稀疏查询-键对，降低内存和计算开销。
• 开发一种鲁棒且可扩展的框架，在低监督设置下超越现有半监督方法。

提出的方法

• 引入一种迭代对比蒸馏流程，利用记忆库中解剖相似锚点的概率分布，对负样本进行软标签化。
• 在第二阶段应用局部对比蒸馏，通过采样语义相似但不完全相同的负样本，增强特征多样性。
• 设计 AnCo（解剖对比）损失，使查询特征更接近其类别均值（正键），同时远离其他类别（负键），并结合对稀疏硬负像素的主动采样。
• 对教师模型使用弱增强，对学生模型使用强增强，以稳定训练并提升泛化能力。
• 在第三阶段集成交叉熵损失于伪标签上（结合置信度阈值），以优化预测并提升性能。
• 通过避免完整特征存储，仅依赖动态采样和基于动量的目标网络更新，最小化内存占用。

实验结果

研究问题

• RQ1 对负样本进行软标签化是否能改善半监督医学图像分割中的表征学习？
• RQ2 对解剖学上困难的负像素进行主动采样，是否能带来更清晰的分割边界，并在类别不平衡数据集上提升性能？
• RQ3 一种同时建模全局语义关系与局部解剖特征的对比蒸馏框架，能否在极低内存开销下实现更优性能？
• RQ4 与标准对比学习相比，所提出的解剖对比损失（AnCo）在处理医学影像中的类别不平衡问题时表现如何？
• RQ5 软标签化、局部蒸馏与解剖对比的结合，在低标注率设置下，能在多大程度上提升分割精度？

主要发现

• 在 ACDC 数据集上，ACTION 仅使用 3% 标注数据即达到 87.5% 的 Dice 分数，显著优于监督基线（89.2% Dice）和所有当前最先进半监督方法（SSL）。
• 在 LiTS 数据集上，ACTION 在 5% 和 10% 标注数据设置下均取得最高性能，Dice 分数大幅超越先前方法。
• 消融实验表明，若移除任一组件（如随机采样图像、局部蒸馏或解剖对比），性能均出现显著下降，证实了各模块的必要性。
• 教师使用弱增强、学生使用强增强的组合取得最佳性能，表明在稳定性和多样性之间实现了最优权衡。
• ACTION 生成了更清晰、更精确的分割边界，尤其在小而稀有的结构（如右心室 RV 和心肌 Myo）上表现突出，定性结果已明确验证。
• 在 ACDC 上，模型的 ASD（1.12 体素）极低，表明边界定位精度高，并在不同未标注数据比例下保持鲁棒性。