[论文解读] Transfer learning approach to Classify the X-ray image that corresponds to corona disease Using ResNet50 pretrained by ChexNet

Mahyar Bolhassani|arXiv (Cornell University)|May 18, 2021

COVID-19 diagnosis using AI参考文献 8被引用 4

一句话总结

本研究提出一种迁移学习方法，使用在 ImageNet 和 CheXNet 上预训练的 ResNet50 与 DenseNet121，对类别不平衡的数据集中的胸部 X 光片进行 COVID-19 分类。通过利用焦点损失和数据增强，模型在增加额外 COVID-19 样本后，测试准确率达到 84.6%，其中在 CheXNet 上微调的 DenseNet121 表现优于其他模型架构。

ABSTRACT

Coronavirus adversely has affected people worldwide. There are common symptoms between the Covid19 virus disease and other respiratory diseases like pneumonia or Influenza. Therefore, diagnosing it fast is crucial not only to save patients but also to prevent it from spreading. One of the most reliant methods of diagnosis is through X-ray images of a lung. With the help of deep learning approaches, we can teach the deep model to learn the condition of an affected lung. Therefore, it can classify the new sample as if it is a Covid19 infected patient or not. In this project, we train a deep model based on ResNet50 pretrained by ImageNet dataset and CheXNet dataset. Based on the imbalanced CoronaHack Chest X-Ray dataset introducing by Kaggle we applied both binary and multi-class classification. Also, we compare the results when using Focal loss and Cross entropy loss.

研究动机与目标

• 解决在高度不平衡的数据集上使用深度学习对胸部 X 光片中的 COVID-19 进行分类的挑战。
• 评估在 ImageNet 和 CheXNet 上预训练的模型在医学图像分类任务中进行迁移学习的有效性。
• 比较不同损失函数（交叉熵损失与焦点损失）在数据不平衡情况下的模型性能影响。
• 通过数据合成和外部数据添加，提升模型在有限真实世界医学影像数据上的泛化能力。

提出的方法

• 对在 ImageNet 和 CheXNet 上分别预训练的 ResNet50 和 DenseNet121 架构进行微调，以在 CoronaHack 胸部 X 光片数据集上实现迁移学习。
• 应用数据增强技术，包括随机水平/垂直翻转和随机旋转，以增加训练样本的多样性。
• 使用焦点损失以缓解类别不平衡带来的负面影响，特别是对 COVID-19 等罕见类别。
• 使用 Adam 优化器配合余弦退火学习率调度，并采用早停法以防止过拟合。
• 通过条件生成对抗网络（cGAN）生成合成的 COVID-19 胸部 X 光片，但受限于 GPU 资源和超参数敏感性。
• 通过添加来自另一项 Kaggle 挑战赛的外部 COVID-19 胸部 X 光片，增强数据集以改善少数类的表示。

实验结果

研究问题

• RQ1 与在 ImageNet 上预训练或随机初始化的模型相比，使用在 CheXNet 上预训练的模型进行迁移学习，是否能提升在类别不平衡的胸部 X 光片数据集上的分类性能？
• RQ2 在少数类（如 COVID-19）的分类中，焦点损失与分类交叉熵损失相比，是否能更有效地提升模型准确率？
• RQ3 数据增强与合成数据生成在有限的真实世界医学影像数据上，能在多大程度上提升模型的泛化能力？
• RQ4 当将来自公开数据集的外部 COVID-19 胸部 X 光片添加到现有类别不平衡的数据集中时，是否能显著提升模型性能？

主要发现

• 在添加额外 COVID-19 样本后，基于 CheXNet 预训练的 DenseNet121 达到最高的测试准确率 84.6%，优于其他模型。
• 与标准交叉熵损失相比，焦点损失显著提升了验证集和测试集的准确率，尤其对代表性不足的 COVID-19 类别效果更明显。
• 在 CheXNet 预训练的 DenseNet121 上训练的模型，在数据扩展后达到 81.83% 的验证准确率和 84.6% 的测试准确率，表明其具有强大的泛化能力。
• 即使采用数据增强和焦点损失，未使用迁移学习的基线 ResNet50 模型测试准确率也仅达到 71.11%，凸显了预训练的重要性。
• 添加外部 COVID-19 胸部 X 光片显著提升了模型性能，测试准确率从 75.56% 提升至 84.6%。
• 尽管进行了努力，基于 GAN 的数据生成仍因训练不稳定和硬件限制，未能生成逼真的 COVID-19 图像。