[论文解读] Lung CT Imaging Sign Classification through Deep Learning on Small Data

Guocai He|arXiv (Cornell University)|Mar 1, 2019

COVID-19 diagnosis using AI参考文献 16被引用 5

一句话总结

该论文提出了一种两阶段深度学习方法，通过利用条件变分自编码器生成对抗网络（CVAE-GAN）在小样本数据集上生成高质量合成数据，用于预训练卷积神经网络（CNN），随后在真实数据上进行微调，以实现对肺部CT影像征象（CISLs）的分类。该方法在二分类任务中达到95.0%的平均准确率，在多分类任务中达到91.83%的准确率，优于传统数据增强和ImageNet迁移学习方法。

ABSTRACT

The annotated medical images are usually expensive to be collected. This paper proposes a deep learning method on small data to classify Common Imaging Signs of Lung diseases (CISL) in computed tomography (CT) images. We explore both the real data and the data generated by Generative Adversarial Network (GAN) to improve the reliability and the generalization of learning. First, we use GAN to generate a large number of CISLs from small annotated data, which are difficult to be distinguished from real counterparts. These generated samples are used to pre-train a Convolutional Neural Network (CNN) for classifying CISLs. Second, we fine-tune the CNN classification model with real data. Experiments were conducted on the LISS database of CISLs. We successfully convinced radiologists that our generated CISLs samples were real for 56.7% of our experiments. The pre-trained CNN model achieves 88.4% of mean accuracy of binary classification, and after fine-tuning, the mean accuracy is significantly increased to 95.0%. For multi-classification of all types of CISLs and normal tissues, through the two stages of training, the mean accuracy, sensitivity and specificity are up to about 91.83%, 92.73% and 99.0%, respectively. To our knowledge, this is the best result achieved on the LISS database, which demonstrates that the proposed method is effective and promising for fulfilling deep learning on small data.

研究动机与目标

• 为解决深度学习模型训练中肺部CT影像标注样本有限的挑战。
• 提升在小样本数据集上基于CNN的常见肺部疾病影像征象（CISLs）分类的泛化能力与可靠性。
• 开发一种不依赖ImageNet等大规模外部数据集的方法，以减少过拟合并提升性能。
• 通过放射科医生评估生成的CISL质量，并将该方法的性能与传统数据增强和迁移学习方法进行对比。

提出的方法

• 仅使用真实的小样本CISL数据训练CVAE-GAN，以生成高保真度的合成影像征象。
• 利用生成的CISL样本对卷积神经网络（CNN）进行预训练，以提升特征学习能力。
• 在真实CISL数据上对预训练的CNN进行微调，以适应目标数据分布并提高分类准确率。
• 两阶段训练流程——先在合成数据上预训练，再在真实数据上微调——可视为一种特定领域的数据增强形式。
• 该方法避免依赖ImageNet预训练，转而使用针对医学影像领域定制的GAN生成数据。
• 消融实验将该方法与传统数据增强和ImageNet迁移学习的性能进行对比。

实验结果

研究问题

• RQ1 专家放射科医生能否将GAN生成的合成肺部CT影像征象与真实影像征象区分开？
• RQ2 在GAN生成的CISL数据上进行CNN预训练，是否能提升在小样本真实数据集上的分类性能？
• RQ3 与传统数据增强相比，所提出的两阶段训练方法在准确率和泛化能力方面表现如何？
• RQ4 在有限的医学影像数据集上，该方法是否能优于从ImageNet进行迁移学习？
• RQ5 在低数据量场景下，该方法在肺部CT征象分类中在多大程度上减少了过拟合？

主要发现

• 放射科医生将56.7%的GAN生成CISL样本误判为真实样本，证实了合成数据的高质量。
• 微调后，二分类任务的平均准确率达到95.0%，显著高于仅使用预训练的88.4%。
• 在所有CISL类型及正常组织的多分类任务中，该方法实现了91.83%的准确率、92.73%的敏感度和99.0%的特异性。
• 该方法在敏感度和特异性方面均优于传统数据增强和ImageNet迁移学习，尤其表现突出。
• 两阶段训练方案有效减少了小样本医学数据集上的过拟合现象，提升了模型泛化能力。
• 结果表明，针对特定领域的GAN数据生成在医学图像分类中比通用数据增强或通用预训练更具有效性。