[论文解读] Exploiting Shared Knowledge from Non-COVID Lesions for Annotation-Efficient COVID-19 CT Lung Infection Segmentation

Yichi Zhang, Qingcheng Liao+4 more|arXiv (Cornell University)|Dec 31, 2020

COVID-19 diagnosis using AI参考文献 39被引用 5

一句话总结

本文提出了一种关系驱动的协作学习模型，利用非COVID-19肺部病变的共享特征，以提升标注效率的COVID-19 CT肺部感染分割性能。通过使用双编码器结构——一个通用编码器和一个任务特定编码器——并强制执行特征关系一致性，该方法在有限标注的COVID-19数据下实现了最先进性能，Dice分数最高提升3.0%，归一化表面Dice分数最高提升4.2%。

ABSTRACT

The novel Coronavirus disease (COVID-19) is a highly contagious virus and has spread all over the world, posing an extremely serious threat to all countries. Automatic lung infection segmentation from computed tomography (CT) plays an important role in the quantitative analysis of COVID-19. However, the major challenge lies in the inadequacy of annotated COVID-19 datasets. Currently, there are several public non-COVID lung lesion segmentation datasets, providing the potential for generalizing useful information to the related COVID-19 segmentation task. In this paper, we propose a novel relation-driven collaborative learning model to exploit shared knowledge from non-COVID lesions for annotation-efficient COVID-19 CT lung infection segmentation. The model consists of a general encoder to capture general lung lesion features based on multiple non-COVID lesions, and a target encoder to focus on task-specific features based on COVID-19 infections. Features extracted from the two parallel encoders are concatenated for the subsequent decoder part. We develop a collaborative learning scheme to regularize feature-level relation consistency of given input and encourage the model to learn more general and discriminative representation of COVID-19 infections. Extensive experiments demonstrate that trained with limited COVID-19 data, exploiting shared knowledge from non-COVID lesions can further improve state-of-the-art performance with up to 3.0% in dice similarity coefficient and 4.2% in normalized surface dice. Our proposed method promotes new insights into annotation-efficient deep learning for COVID-19 infection segmentation and illustrates strong potential for real-world applications in the global fight against COVID-19 in the absence of sufficient high-quality annotations.

研究动机与目标

• 解决高质量标注的COVID-19 CT扫描数据有限所带来的肺部感染分割挑战。
• 利用公开的非COVID-19肺部病变数据集，以提升模型泛化能力并减少对标注的依赖。
• 开发一种有效迁移非COVID-19与COVID-19肺部病变之间共享语义知识的方法。
• 通过特征级关系正则化，实现在少量标注的COVID-19病例下仍具备鲁棒的分割性能。

提出的方法

• 采用双编码器架构：一个在多个非COVID-19肺部病变数据集上预训练的通用编码器，用于学习共享病变特征；一个在有限COVID-19数据上微调的任务特定编码器，用于学习任务特定表示。
• 使用共享解码器，从两个编码器的特征拼接结果中重建分割掩码。
• 引入一种协作学习方案，强制对同一输入，通用编码器与目标编码器之间的特征关系保持一致。
• 通过最小化通用特征与目标特征的关系矩阵之间的绝对差值来正则化模型，以促进判别性和泛化性表示。
• 通过将相同的关系正则化应用于未标注的COVID-19扫描图像，将方法扩展至半监督学习。
• 采用交叉熵损失与Dice损失的组合，端到端训练模型以优化分割性能。

实验结果

研究问题

• RQ1 从非COVID-19肺部病变中迁移共享知识，是否能提升在低资源COVID-19 CT影像场景下的分割性能？
• RQ2 在通用编码器与任务特定编码器之间，特征级关系一致性在多大程度上能增强模型的鲁棒性与泛化能力？
• RQ3 未标注的COVID-19扫描图像在多大程度上可被用于提升特征关系正则化与分割精度？
• RQ4 所提出的方法是否在标注效率导向的COVID-19肺部感染分割任务中优于现有最先进方法？

主要发现

• 当在有限标注的COVID-19数据上训练时，该方法相比最先进方法，Dice相似系数最高提升3.0%，归一化表面Dice分数最高提升4.2%。
• 该模型在2D与3D数据集上的所有评估指标中均显著优于现有分割方法，展现出强大的泛化能力与鲁棒性。
• 协作学习方案通过强制通用编码器与目标编码器之间的关系一致性，稳定了训练过程并增强了特征表示能力。
• 即使在无标注数据的情况下，该方法仍能利用未标注的COVID-19扫描图像来改善特征关系正则化，并实现一致的性能提升。
• 特征关系矩阵的可视化显示，随着训练进行，模型学习到的表示逐渐更具判别性与稳定性，尤其在目标编码器中表现明显。
• 该方法在病变形状、大小与位置存在显著差异的情况下依然保持有效性，表明其对具有挑战性的临床病例具有强大的适应能力。