[论文解读] Deep transfer learning for detecting Covid-19, Pneumonia and Tuberculosis using CXR images -- A Review

Irad Mwendo, Kinyua Gikunda+1 more|arXiv (Cornell University)|Mar 26, 2023

COVID-19 diagnosis using AI被引用 4

一句话总结

本综述评估了用于通过胸部X光（CXR）影像检测新冠肺炎、肺炎和结核病的深度迁移学习模型，重点分析了ResNet-50、VGG-16和DenseNet-121等网络架构。研究指出，数据增强、迁移学习和超参数调优可显著提升准确率，部分模型准确率最高达99.7%，同时识别出数据稀缺、类别不平衡以及单一疾病检测作为主要局限。

ABSTRACT

Chest X-rays remains to be the most common imaging modality used to diagnose lung diseases. However, they necessitate the interpretation of experts (radiologists and pulmonologists), who are few. This review paper investigates the use of deep transfer learning techniques to detect COVID-19, pneumonia, and tuberculosis in chest X-ray (CXR) images. It provides an overview of current state-of-the-art CXR image classification techniques and discusses the challenges and opportunities in applying transfer learning to this domain. The paper provides a thorough examination of recent research studies that used deep transfer learning algorithms for COVID-19, pneumonia, and tuberculosis detection, highlighting the advantages and disadvantages of these approaches. Finally, the review paper discusses future research directions in the field of deep transfer learning for CXR image classification, as well as the potential for these techniques to aid in the diagnosis and treatment of lung diseases.

研究动机与目标

• 评估深度迁移学习在分类胸部X光影像以检测新冠肺炎、肺炎和结核病方面的有效性。
• 识别在低资源和高工作负荷临床环境中提升诊断准确率的关键深度学习架构与技术。
• 分析现有研究中因小样本数据集、数据类别不平衡及多病种检测能力有限等带来的挑战。
• 强调数据增强与超参数调优在提升模型泛化能力与性能方面的作用。
• 概述未来研究方向，以实现基于CXR影像的可扩展、高准确率且鲁棒的肺部疾病AI辅助诊断。

提出的方法

• 对58篇近期使用深度迁移学习进行CXR影像肺部疾病分类的研究进行系统性综述。
• 评估预训练模型（包括ResNet-50、VGG-16、DenseNet-121、InceptionV3和EfficientNet）在CXR数据集上的迁移学习表现。
• 应用数据增强技术（如翻转、旋转、缩放和直方图均衡化）以增加训练数据的多样性。
• 通过超参数调优优化学习率、批量大小和网络深度，以提升模型收敛性与准确率。
• 引入先进方法如各向异性扩散滤波、非锐化掩模和空间变换网络，以降低图像噪声并增强特征。
• 对比集成方法（如随机森林、SVM、逻辑回归）与结合CNN与注意力机制或特征提取模块的混合模型。

实验结果

研究问题

• RQ1 哪些深度迁移学习架构在从CXR影像中检测新冠肺炎、肺炎和结核病方面表现出最高准确率？
• RQ2 数据增强与超参数调优如何影响迁移学习模型在肺部疾病分类中的性能与鲁棒性？
• RQ3 限制这些模型在真实世界中部署的主要挑战是什么？例如小样本数据集、类别不平衡与模型偏差？
• RQ4 与独立的深度学习模型相比，混合或集成模型在多大程度上提升了诊断准确率？
• RQ5 在开发基于CXR影像的可扩展、多病种检测系统方面，存在哪些关键研究空白与未来方向？

主要发现

• 迁移学习模型如ResNet-50和DenseNet-121表现出高准确率，其中一项研究在仅1,824张CXR影像的小样本数据集上报告了99.9%的准确率。
• 采用旋转、翻转和缩放等数据增强技术显著提升了模型泛化能力与训练集规模。
• 通过学习率调整与Dropout层等超参数调优，模型性能得到增强，其中一项模型在100个训练周期后达到94%准确率。
• 结合CNN与空间变换网络及人口统计学特征（年龄、性别、投照位置）的混合模型，在数据存在噪声的情况下仍达到73%验证准确率。
• 结合随机森林、SVM与逻辑回归的集成模型准确率达98%，而一个集成深度迁移学习模型在阻塞性肺部疾病检测中达到99.70%的准确率。
• 数据不平衡与小样本数据集问题依然普遍存在，其中一项研究在使用洗牌采样缓解结核病分类中的类别不平衡后，准确率仍仅为85.68%。