[论文解读] Semi-supervised Left Atrium Segmentation with Mutual Consistency Training

Yicheng Wu, Minfeng Xu+3 more|arXiv (Cornell University)|Mar 4, 2021

Cardiac Valve Diseases and Treatments参考文献 18被引用 20

一句话总结

该论文提出MC-Net，一种半监督3D左心房分割方法，通过利用未标记的困难区域进行互一致性训练，提升模型泛化能力。通过使用两个略有不同的解码器和循环伪标签方案，强制实现低熵、一致的预测，MC-Net在仅使用20%标注数据的LA数据库上，性能优于六种SOTA方法。

ABSTRACT

Semi-supervised learning has attracted great attention in the field of machine learning, especially for medical image segmentation tasks, since it alleviates the heavy burden of collecting abundant densely annotated data for training. However, most of existing methods underestimate the importance of challenging regions (e.g. small branches or blurred edges) during training. We believe that these unlabeled regions may contain more crucial information to minimize the uncertainty prediction for the model and should be emphasized in the training process. Therefore, in this paper, we propose a novel Mutual Consistency Network (MC-Net) for semi-supervised left atrium segmentation from 3D MR images. Particularly, our MC-Net consists of one encoder and two slightly different decoders, and the prediction discrepancies of two decoders are transformed as an unsupervised loss by our designed cycled pseudo label scheme to encourage mutual consistency. Such mutual consistency encourages the two decoders to have consistent and low-entropy predictions and enables the model to gradually capture generalized features from these unlabeled challenging regions. We evaluate our MC-Net on the public Left Atrium (LA) database and it obtains impressive performance gains by exploiting the unlabeled data effectively. Our MC-Net outperforms six recent semi-supervised methods for left atrium segmentation, and sets the new state-of-the-art performance on the LA database.

研究动机与目标

• 为解决左心房分割中注释数据有限的挑战，通过有效利用未标记数据。
• 在缺乏标签的情况下，通过强调困难、模糊区域（如小分支、模糊边缘）来提升模型泛化能力。
• 通过利用认知不确定性作为监督信号，减少在困难区域的模型不确定性。
• 开发一种半监督框架，在公开的LA数据库上超越现有方法。
• 证明解码器之间的互一致性可增强从未标记、高不确定性区域中学习特征的能力。

提出的方法

• MC-Net采用共享编码器和两个略有不同的解码器，为同一输入生成多样化但一致的预测。
• 利用两个解码器之间的预测差异来估计不确定性并指导训练。
• 通过循环伪标签方案将预测不一致转化为无监督损失，以促进互一致性。
• 通过锐化函数生成软伪标签，并结合熵正则化以最小化预测不确定性。
• 通过最小化两个解码器输出之间的差异，实施一致性正则化，促进低熵、稳定的预测。
• 框架通过端到端方式使用标注数据和未标记数据进行训练，其中循环伪标签机制动态优化预测。

实验结果

研究问题

• RQ1 两个解码器之间的互一致性训练是否能提升半监督左心房分割中的泛化能力？
• RQ2 此前被低估的未标记困难区域是否能被有效利用以减少模型不确定性？
• RQ3 一种强制解码器间一致性的循环伪标签方案是否能带来优于标准一致性正则化的分割性能？
• RQ4 MC-Net是否能在仅使用LA数据库20%标注数据的情况下实现SOTA性能？
• RQ5 与相同解码器相比，通过不同解码器实现的模型多样性对性能有何影响？

主要发现

• MC-Net在仅使用20%标注数据的LA数据库上，Dice分数达到90.34%，优于使用100%标签的全监督V-Net基线模型（91.14%）。
• 在20%标注数据下，MC-Net的95% Hausdorff距离（95HD）为6.00体素，平均表面距离（ASD）为1.77体素，显著优于全部六种SOTA方法。
• 消融研究证实，使用两个不同解码器（V2d-Net）的性能优于相同解码器（V2-Net），在10%标注数据下Dice分数提升1.18%。
• 在20%标注数据下，加入循环伪标签（CPL）组件后，95HD从9.36降至6.00体素，ASD从2.18降至1.77体素，证明其有效性。
• 模型在无需后处理的情况下，能生成更完整的左心房分割结果，尤其在困难区域（如小分支）中孤立区域更少。
• 该方法可与其它形状约束模型兼容，并可扩展用于提升其他半监督医学图像分割任务的性能。