[论文解读] Efficient and Accurate Pneumonia Detection Using a Novel Multi-Scale Transformer Approach

Ahmed Saber, Amirreza Fateh+4 more|arXiv (Cornell University)|Aug 8, 2024

Advanced Chemical Sensor Technologies被引用 4

一句话总结

该论文提出了一种基于多尺度Transformer的新方法，用于从胸部X光片中高效且准确地检测肺炎，结合了用于肺部分割的TransUNet与应用于ResNet主干网络特征图的轻量化Transformer模块。该方法在Kermany数据集上达到92.79%的准确率，在Cohen数据集上达到95.11%的准确率，显著提升了性能，且参数量少于标准Transformer模型。

ABSTRACT

Pneumonia, a prevalent respiratory infection, remains a leading cause of morbidity and mortality worldwide, particularly among vulnerable populations. Chest X-rays serve as a primary tool for pneumonia detection; however, variations in imaging conditions and subtle visual indicators complicate consistent interpretation. Automated tools can enhance traditional methods by improving diagnostic reliability and supporting clinical decision-making. In this study, we propose a novel multi-scale transformer approach for pneumonia detection that integrates lung segmentation and classification into a unified framework. Our method introduces a lightweight transformer-enhanced TransUNet for precise lung segmentation, achieving a Dice score of 95.68% on the "Chest X-ray Masks and Labels" dataset with fewer parameters than traditional transformers. For classification, we employ pre-trained ResNet models (ResNet-50 and ResNet-101) to extract multi-scale feature maps, which are then processed through a modified transformer module to enhance pneumonia detection. This integration of multi-scale feature extraction and lightweight transformer modules ensures robust performance, making our method suitable for resource-constrained clinical environments. Our approach achieves 93.75% accuracy on the "Kermany" dataset and 96.04% accuracy on the "Cohen" dataset, outperforming existing methods while maintaining computational efficiency. This work demonstrates the potential of multi-scale transformer architectures to improve pneumonia diagnosis, offering a scalable and accurate solution to global healthcare challenges. https://github.com/amirrezafateh/Multi-Scale-Transformer-Pneumonia

研究动机与目标

• 为解决由于放射科医生解读差异导致的欠发达地区肺炎诊断不一致问题。
• 利用深度学习和注意力机制提升肺炎检测的诊断准确率与效率。
• 在保持高性能的同时，降低基于Transformer的医学图像分类模型的复杂度与参数数量。
• 通过整合肺部分割，聚焦于相关解剖区域，减少噪声，从而提升分类性能。
• 开发一种可部署的高效解决方案，适用于资源受限的临床环境。

提出的方法

• 使用一种新型、参数高效的Transformer模块增强的TransUNet模型，在Chest Xray Masks and Labels数据集上训练，完成肺部分割。
• 提取分割后的肺部区域作为输入，对预训练的ResNet-50和ResNet-101模型进行微调，以实现多尺度特征提取。
• 采用改进的轻量化Transformer模块处理多尺度特征，以建模长距离依赖关系并突出肺部区域的关键模式。
• 通过使用ImageNet预训练权重进行迁移学习，并在Kermany和Cohen肺炎数据集上进行微调。
• 分割与注意力机制的结合有效减少了背景噪声，提升了分类特征的相关性。
• 通过消融研究对比原始图像与分割图像输入下的性能表现，对所提方法进行评估。

Figure 1 : the overview of proposed method

实验结果

研究问题

• RQ1 与标准Transformer相比，轻量化、多尺度的Transformer模块是否能在减少参数量的同时提升肺炎分类的准确率？
• RQ2 使用TransUNet进行肺部分割对后续肺炎分类模型的性能有何影响？
• RQ3 在分割后的多尺度特征框架中集成注意力机制，在胸部X光片数据集上能多大程度上提升诊断准确率？
• RQ4 与现有最先进的基于Transformer的肺炎检测模型相比，该方法是否在更少参数下实现了更优性能？
• RQ5 由于参数量少且设计高效，该方法是否能在资源受限环境中保持高准确率？

主要发现

• 所提方法在Kermany数据集上达到92.79%的准确率，在Cohen数据集上达到95.11%的准确率，表现出强大的泛化能力与鲁棒性。
• 在ResNet-50上，引入肺部分割掩码使分类准确率提升2个百分点；在ResNet-101上提升了2.73个百分点。
• 使用分割图像时，模型的精确率、召回率、F1分数和AUC均更高，表明误分类减少。
• 消融研究证实，分割显著降低了噪声并增强了特征相关性，使两种ResNet主干网络均获得一致的性能提升。
• 所提Transformer模块在参数量少于标准Transformer的同时保持了高性能，适用于低资源环境的部署。
• 混淆矩阵显示，使用预测的肺部掩码后，假阳性和假阴性数量均显著减少，尤其在肺炎和COVID-19类别中表现明显。

Figure 2 : the overview of transformer