[论文解读] Explainable AI For COVID-19 CT Classifiers: An Initial Comparison Study

Qinghao Ye, Jun Xia+1 more|arXiv (Cornell University)|Apr 25, 2021

COVID-19 diagnosis using AI参考文献 15被引用 7

一句话总结

本研究提出了一种结合可解释人工智能（XAI）的深度学习模型，用于从胸部CT扫描中分类COVID-19，通过注意力机制的切片整合与XAI技术（CAM、LIME、SHAP）相结合，提升了模型的准确率与可解释性。该模型相较于最先进的方法VBNet，准确率提高了12.5%，同时通过可视化病灶区域和特征贡献，支持放射科医生的决策。

ABSTRACT

Artificial Intelligence (AI) has made leapfrogs in development across all the industrial sectors especially when deep learning has been introduced. Deep learning helps to learn the behaviour of an entity through methods of recognising and interpreting patterns. Despite its limitless potential, the mystery is how deep learning algorithms make a decision in the first place. Explainable AI (XAI) is the key to unlocking AI and the black-box for deep learning. XAI is an AI model that is programmed to explain its goals, logic, and decision making so that the end users can understand. The end users can be domain experts, regulatory agencies, managers and executive board members, data scientists, users that use AI, with or without awareness, or someone who is affected by the decisions of an AI model. Chest CT has emerged as a valuable tool for the clinical diagnostic and treatment management of the lung diseases associated with COVID-19. AI can support rapid evaluation of CT scans to differentiate COVID-19 findings from other lung diseases. However, how these AI tools or deep learning algorithms reach such a decision and which are the most influential features derived from these neural networks with typically deep layers are not clear. The aim of this study is to propose and develop XAI strategies for COVID-19 classification models with an investigation of comparison. The results demonstrate promising quantification and qualitative visualisations that can further enhance the clinician's understanding and decision making with more granular information from the results given by the learned XAI models.

研究动机与目标

• 为解决深度学习模型在医学影像中，特别是COVID-19 CT分类中的黑箱问题。
• 开发并比较多种XAI技术（CAM、LIME、SHAP）在临床情境下对模型预测的可解释性。
• 在提升分类性能的同时，确保模型决策过程的透明性与可追溯性，以供放射科医生和临床医生使用。
• 在公开数据集CC-CCII上验证模型，结合定量指标与显著特征的定性可视化。
• 证明可解释人工智能可通过突出CT扫描中的病灶区域和特征贡献，增强临床决策能力。

提出的方法

• 设计了一种带有切片整合模块的3D残差卷积神经网络，以在保留空间特征的同时聚合CT切片的特征。
• 使用U-Net对初始CT体积进行分割，随后通过随机裁剪和缩放将图像调整为224×224像素，并采用50%的水平翻转增强数据。
• 应用经典注意力机制，对具有信息量的切片进行加权，使模型在分类过程中聚焦于病灶区域。
• 使用Grad-CAM生成类别激活图，突出显示输入CT图像中具有判别性的区域。
• 通过将输入图像划分为超像素，应用LIME来估计各区域对模型预测的局部贡献。
• 计算SHAP值以量化每个超像素对最终预测的正向或负向影响，实现全局与局部可解释性。

实验结果

研究问题

• RQ1 XAI技术如何提升深度学习模型在COVID-19 CT分类中的可解释性？
• RQ2 在CAM、LIME与SHAP三种XAI方法中，哪一种能提供最可靠且具有临床意义的模型预测解释？
• RQ3 与标准的3D或2D模型相比，基于注意力机制的切片加权是否能提升分类准确率？
• RQ4 可视化显著性图在多大程度上与放射科医生对病灶区域的识别一致？
• RQ5 可解释特征能否减少对阳性病例的偏见，并提升对阴性样本的分类性能？

主要发现

• 所提出的模型相比VBNet准确率提高了12.5%，显著提升了从CT扫描中分类COVID-19的性能。
• Grad-CAM可视化清晰突出了病灶区域，激活图始终聚焦于临床关注的区域。
• 基于LIME的超像素可视化识别出含病灶的区域为对预测贡献最大的正向特征，证实模型聚焦于病理区域。
• SHAP值分析显示，病灶区域具有较高的正向贡献，而背景区域则呈现负向贡献，表明模型有效抑制了噪声。
• 由于更好地处理了切片层面的差异性与训练标签中的噪声，该模型优于图像级模型（如ResNet-50、COVID-Net）。
• XAI技术的整合提供了定量与定性双重洞察，增强了深度学习分类器的可信度与临床实用性。