[论文解读] SimCVD: Simple Contrastive Voxel-Wise Representation Distillation for Semi-Supervised Medical Image Segmentation

Chenyu You, Yuan Zhou+3 more|arXiv (Cornell University)|Aug 13, 2021

Advanced Neural Network Applications被引用 16

一句话总结

SimCVD 提出了一种用于半监督 3D 医疗图像分割的简单对比式体素级表示蒸馏框架，仅通过两个随机丢弃掩码作为最小数据增强手段，利用对比学习学习边界感知表示。该方法实现了最先进性能，在仅使用 20% 标注数据时于 LA 数据集上达到 90.85% 的 Dice 分数，使用 10% 数据时达到 89.03%，相比之前方法最高提升 2.22%。

ABSTRACT

Automated segmentation in medical image analysis is a challenging task that requires a large amount of manually labeled data. However, most existing learning-based approaches usually suffer from limited manually annotated medical data, which poses a major practical problem for accurate and robust medical image segmentation. In addition, most existing semi-supervised approaches are usually not robust compared with the supervised counterparts, and also lack explicit modeling of geometric structure and semantic information, both of which limit the segmentation accuracy. In this work, we present SimCVD, a simple contrastive distillation framework that significantly advances state-of-the-art voxel-wise representation learning. We first describe an unsupervised training strategy, which takes two views of an input volume and predicts their signed distance maps of object boundaries in a contrastive objective, with only two independent dropout as mask. This simple approach works surprisingly well, performing on the same level as previous fully supervised methods with much less labeled data. We hypothesize that dropout can be viewed as a minimal form of data augmentation and makes the network robust to representation collapse. Then, we propose to perform structural distillation by distilling pair-wise similarities. We evaluate SimCVD on two popular datasets: the Left Atrial Segmentation Challenge (LA) and the NIH pancreas CT dataset. The results on the LA dataset demonstrate that, in two types of labeled ratios (i.e., 20% and 10%), SimCVD achieves an average Dice score of 90.85% and 89.03% respectively, a 0.91% and 2.22% improvement compared to previous best results. Our method can be trained in an end-to-end fashion, showing the promise of utilizing SimCVD as a general framework for downstream tasks, such as medical image synthesis, enhancement, and registration.

研究动机与目标

• 解决基于深度学习的分割任务中标注医疗图像有限的挑战。
• 相比完全监督方法，提升半监督模型的鲁棒性与准确性。
• 显式建模几何结构与语义信息，以增强边界检测能力。
• 开发一种简单而高效的框架，从有限标注数据与大量未标注数据中学习强大的体素级表示。
• 支持端到端训练，以应用于下游医疗影像任务，如图像合成、增强与配准。

提出的方法

• 使用同一 3D 体数据的两个视图（通过两个独立的丢弃掩码生成）作为对比学习中的正样本对。
• 训练学生网络以预测对象边界的分割图与符号距离图（SDMs）。
• 在两个视图的潜在表示上应用对比损失，以促使边界感知特征达成一致。
• 通过将教师网络中的成对相似性模式迁移至学生网络，实现结构化蒸馏。
• 按照均值教师范式，通过学生网络权重的指数移动平均来更新教师网络权重。
• 通过结合监督损失（分割与 SDM）与无监督损失（对比损失、成对蒸馏与一致性损失）来优化学生网络。

实验结果

研究问题

• RQ1 仅使用丢弃作为最小数据增强策略，是否能在对比式体素级表示学习中实现具有竞争力的性能？
• RQ2 与标准数据增强技术（如图像修复、强度变换）相比，丢弃在表示质量与泛化能力方面表现如何？
• RQ3 通过符号距离图学习边界感知表示，在低样本设置下对分割准确率的提升程度如何？
• RQ4 对体素表示之间成对相似性的结构化蒸馏是否能进一步提升模型性能？
• RQ5 所提出的 SimCVD 框架在不同医疗影像任务与数据集上是否具备良好的泛化能力？

主要发现

• 仅使用 20% 标注数据时，SimCVD 在 LA 数据集上达到 90.85% 的 Dice 分数，相比之前最先进方法提升 0.91%。
• 仅使用 10% 标注数据时，SimCVD 达到 89.03% 的 Dice 分数，相比先前最佳方法提升 2.22%。
• 训练过程中移除丢弃操作导致 Dice 分数显著下降 1.34%，表明其在表示学习中具有关键作用。
• 添加标准数据增强技术（如图像修复、非线性变换）相比仅使用丢弃会降低性能，表明其可能引入有害噪声。
• 使用自适应平均池化且池化大小为 128 时性能最优，而更大的池化尺寸（如 256）无法进一步提升结果。
• 消融实验确认，丢弃作为一种有效的最小化数据增强形式，能够生成独特的正样本对并防止表示坍塌。