[论文解读] Ensemble-CVDNet: A Deep Learning based End-to-End Classification Framework for COVID-19 Detection using Ensembles of Networks

Coşku Öksüz, Oğuzhan Urhan+1 more|arXiv (Cornell University)|Dec 9, 2020

COVID-19 diagnosis using AI参考文献 33被引用 6

一句话总结

Ensemble-CVDNet 是一种轻量级、端到端的深度学习框架，通过微调 SqueezeNet、ShuffleNet 和 EfficientNet-B0 模型，将胸部 X 光片分类为三种类别：COVID-19 肺炎、非 COVID 病毒性肺炎和健康。该模型仅使用 562 万个参数，即可在中端 GPU 上实现约 10ms 的推理速度，准确率达到 98.30%，灵敏度为 97.78%，F1 分数为 97.61%。

ABSTRACT

The new type of coronavirus disease (COVID-19), which started in Wuhan, China in December 2019, continues to spread rapidly affecting the whole world. It is essential to have a highly sensitive diagnostic screening tool to detect the disease as early as possible. Currently, chest CT imaging is preferred as the primary screening tool for evaluating the COVID-19 pneumonia by radiological imaging. However, CT imaging requires larger radiation doses, longer exposure time, higher cost, and may suffer from patient movements. X-Ray imaging is a fast, cheap, more patient-friendly and available in almost every healthcare facility. Therefore, we have focused on X-Ray images and developed an end-to-end deep learning model, i.e. Ensemble-CVDNet, to distinguish COVID-19 pneumonia from non-COVID pneumonia and healthy cases in this work. The proposed model is based on a combination of three lightweight pre-trained models SqueezeNet, ShuffleNet, and EfficientNet-B0 at different depths, and combines feature maps in different abstraction levels. In the proposed end to-end model, networks are used as feature extractors in parallel after fine-tuning, and some additional layers are used at the top of them. The proposed model is evaluated in the COVID-19 Radiography Database, a public data set consisting of 219 COVID-19, 1341 Healthy, and 1345 Viral Pneumonia chest X-Ray images. Experimental results show that our lightweight Ensemble-CVDNet model provides 98.30% accuracy, 97.78% sensitivity, and 97.61% F1 score using only 5.62M parameters. Moreover, it takes about 10ms to process and predict an X-Ray image using the proposed method using a mid level GPU. We believe that the method proposed in this study can be a helpful diagnostic screening tool for radiologists in the early diagnosis of the disease.

研究动机与目标

• 开发一种快速、准确且轻量级的深度学习模型，用于通过胸部 X 光成像实现 COVID-19 的早期检测。
• 通过利用广泛可用的 X 光成像技术，解决 CT 扫描存在的高辐射剂量、高成本和可及性差等局限性。
• 通过在不同抽象层次上融合多个预训练模型的特征图，提升分类性能。
• 构建一个端到端框架，可在计算资源极少的临床环境中轻松部署。
• 在资源有限的环境中，实现高灵敏度和 F1 分数，以支持早期诊断。

提出的方法

• 该模型采用三种轻量级预训练 CNN 的集成——SqueezeNet、ShuffleNet 和 EfficientNet-B0——均在 COVID-19 胸部 X 光影像数据集上进行微调。
• 将三个网络在不同深度的特征图进行拼接，以捕捉多层次的抽象表示，提升表征学习能力。
• 将融合后的特征通过额外的全连接层和 Dropout 层进行最终分类，分为三类：COVID-19、非 COVID 肺炎和健康。
• 整个网络通过迁移学习以端到端方式训练，使预训练模型适应医学影像任务。
• 采用基于平均值的集成策略，融合三个基础网络的预测结果，以提升模型鲁棒性和泛化能力。
• 使用标准交叉熵损失和 Adam 优化器，并配合学习率调度策略进行模型优化。

实验结果

研究问题

• RQ1 由轻量级、预训练的 CNN 模型组成的集成能否在将胸部 X 光片分类为 COVID-19、非 COVID 肺炎和健康三类时，实现高水平的诊断性能？
• RQ2 通过结合具有不同架构设计的多个网络的特征图，在多大程度上能提升分类准确率和鲁棒性？
• RQ3 在有限的医学影像数据集上，参数量小于 600 万个的小型模型能在多大程度上保持高性能？
• RQ4 所提出的方法能否在中端硬件上实现适合临床部署的实时推理速度？
• RQ5 在相同基准数据集上，该模型的灵敏度和 F1 分数与现有方法相比如何？

主要发现

• 该模型在 COVID-19 胸部 X 光影像数据库上实现了 98.30% 的分类准确率，无论在准确率还是参数效率方面，均优于许多现有方法。
• 该模型表现出 97.78% 的灵敏度，表明其在正确识别 COVID-19 病例方面能力强大，这对早期检测至关重要。
• F1 分数达到 97.61%，反映了精确率与召回率的平衡调和均值，证实了其在所有类别上的稳健性能。
• 仅使用 562 万个参数，该模型具有极高的参数效率，适合在资源有限的临床环境中部署。
• 在中端 GPU 上，每幅图像的推理时间约为 10ms，表明具备实时推理能力。
• SqueezeNet、ShuffleNet 和 EfficientNet-B0 的集成在性能上优于单个模型，验证了跨架构特征级融合的有效性。