[论文解读] An Uncertainty-aware Transfer Learning-based Framework for Covid-19 Diagnosis

Afshar Shamsi Jokandan, Hamzeh Asgharnezhad+6 more|arXiv (Cornell University)|Jul 26, 2020

COVID-19 diagnosis using AI参考文献 34被引用 8

一句话总结

本文提出了一种面向COVID-19诊断的不确定性感知迁移学习框架，利用胸部X光片和CT图像，通过预训练的CNN（VGG16、ResNet50、DenseNet121、InceptionResNetV2）提取特征，随后采用线性SVM和神经网络分类器。关键贡献在于引入了认知不确定性量化，揭示了CT图像预测中的不确定性显著高于X光片，且线性SVM与神经网络在准确率、敏感性、特异性和AUC方面表现最佳。

ABSTRACT

The early and reliable detection of COVID-19 infected patients is essential to prevent and limit its outbreak. The PCR tests for COVID-19 detection are not available in many countries and also there are genuine concerns about their reliability and performance. Motivated by these shortcomings, this paper proposes a deep uncertainty-aware transfer learning framework for COVID-19 detection using medical images. Four popular convolutional neural networks (CNNs) including VGG16, ResNet50, DenseNet121, and InceptionResNetV2 are first applied to extract deep features from chest X-ray and computed tomography (CT) images. Extracted features are then processed by different machine learning and statistical modelling techniques to identify COVID-19 cases. We also calculate and report the epistemic uncertainty of classification results to identify regions where the trained models are not confident about their decisions (out of distribution problem). Comprehensive simulation results for X-ray and CT image datasets indicate that linear support vector machine and neural network models achieve the best results as measured by accuracy, sensitivity, specificity, and AUC. Also it is found that predictive uncertainty estimates are much higher for CT images compared to X-ray images.

研究动机与目标

• 为解决资源有限环境下PCR检测的局限性，开发一种基于深度学习的早期且可靠的COVID-19检测方法，利用医学影像进行诊断。
• 研究多种预训练CNN（VGG16、ResNet50、DenseNet121、InceptionResNetV2）在X光片和CT图像上进行COVID-19分类的迁移学习性能。
• 量化并报告模型预测中的认知不确定性，以识别模型缺乏置信度的情况，特别是针对分布外样本。
• 比较不同机器学习与统计模型在提取的深度特征上对X光片和CT成像模态的诊断性能。

提出的方法

• 采用四种预训练CNN（VGG16、ResNet50、DenseNet121、InceptionResNetV2）应用迁移学习，从胸部X光片和CT图像中提取分层且具有判别性的特征，训练期间卷积层被冻结。
• 提取的特征通过多种分类技术进行处理，包括线性支持向量机（SVM）、多层感知机（MLP）及其他机器学习模型。
• 通过20个具有不同隐藏层大小（50–400个神经元）的独立神经网络组成的集成模型量化认知不确定性，预测结果之间的分歧程度反映高不确定性。
• 利用主成分分析（PCA）降维后的特征在二维空间中可视化不确定性估计，颜色越深表示预测不确定性越高。
• 通过标准指标评估性能：准确率、敏感性、特异性及AUC，结果取100次运行的平均值以确保鲁棒性。
• 在X光片和CT图像数据集上评估该框架，并对不同模型的不确定性水平与分类性能进行对比分析。

实验结果

研究问题

• RQ1 不同预训练CNN架构（VGG16、ResNet50、DenseNet121、InceptionResNetV2）在从X光片和CT图像中提取用于COVID-19诊断的判别性特征方面表现如何？
• RQ2 当应用于迁移学习提取的特征时，哪种机器学习分类器（如线性SVM、神经网络）在准确率、敏感性、特异性和AUC方面达到最高诊断性能？
• RQ3 基于X光片与CT图像的模型在预测的认知不确定性方面有何差异？这对临床可靠性有何启示？
• RQ4 在神经网络集成中，模型预测在多大程度上表现出不一致性，特别是在CT图像与X光片之间？

主要发现

• 线性支持向量机与多层感知机分类器实现了最高的诊断性能，在X光片和CT图像数据集上均取得了最佳的准确率、敏感性、特异性和AUC结果。
• CT图像的预测认知不确定性显著高于X光片，表明模型在CT病例上的预测分歧更大，置信度更低。
• 20个神经网络组成的集成模型显示，CT图像的预测一致性远低于X光片，不确定性图中深色区域清晰显示出大范围的高不确定性区域。
• 尽管参数量更大，但ResNet50和InceptionResNetV2等深层网络并未始终提取出比小型模型更具有信息量的特征，表明模型大小与诊断性能之间无直接相关性。
• 预训练CNN架构的选择对整体分类性能具有深远且直接的影响，VGG16与DenseNet121在多个指标上均表现出色。
• 本研究表明，不确定性量化对临床部署至关重要，因为CT预测中的高不确定性提示模型在分布外样本上可能失效。