[论文解读] Visual Interpretable and Explainable Deep Learning Models for Brain Tumor MRI and COVID-19 Chest X-ray Images

Yusuf Brima, Marcellin Atemkeng|arXiv (Cornell University)|Aug 1, 2022

Machine Learning in Healthcare被引用 5

一句话总结

本文提出了一种自适应路径集成梯度方法，用于解释脑肿瘤MRI和COVID-19胸部X光片分类中的深度学习模型。通过生成视觉显著性图，该方法揭示了与预测结果相关的显著图像区域，识别了潜在生物标志物，并暴露了模型偏差——在结合XRAI与Blur IG方法时，与专家分割结果的对齐度达到35%，显著优于基线方法，展现出更高的可解释性。

ABSTRACT

Deep learning shows promise for medical image analysis but lacks interpretability, hindering adoption in healthcare. Attribution techniques that explain model reasoning may increase trust in deep learning among clinical stakeholders. This paper aimed to evaluate attribution methods for illuminating how deep neural networks analyze medical images. Using adaptive path-based gradient integration, we attributed predictions from brain tumor MRI and COVID-19 chest X-ray datasets made by recent deep convolutional neural network models. The technique highlighted possible biomarkers, exposed model biases, and offered insights into the links between input and prediction. Our analysis demonstrates the method's ability to elucidate model reasoning on these datasets. The resulting attributions show promise for improving deep learning transparency for domain experts by revealing the rationale behind predictions. This study advances model interpretability to increase trust in deep learning among healthcare stakeholders.

研究动机与目标

• 评估归因方法以提升深度学习模型在医学图像分析中的可解释性。
• 识别脑肿瘤MRI和COVID-19胸部X光片中对模型预测有贡献的显著特征。
• 通过视觉解释技术检测模型偏差并揭示潜在生物标志物。
• 通过支持人机协同验证，增强人工智能辅助诊断中的信任与透明度。
• 通过提供视觉化、可解释的模型决策解释，支持深度学习在临床中的应用。

提出的方法

• 采用自适应路径集成梯度方法，计算深度卷积神经网络多层的特征归因。
• 以零像素作为基线，确保归因计算中信息中性。
• 应用XRAI（基于XAI的相关性归因）和Blur集成梯度（Blur IG）以增强显著性图生成。
• 结合多种归因技术（XRAI与Blur IG）以提升鲁棒性并增强与专家标注区域的对齐度。
• 将归因图与专家验证的分割结果进行对比，量化可解释性与准确性。
• 分析不同架构下的模型行为，评估归纳偏差对显著性图模式的影响。

实验结果

研究问题

• RQ1 不同归因方法在脑肿瘤MRI和COVID-19X光片中如何突出相关区域？
• RQ2 归因图与医学影像中专家标注的感兴趣区域在多大程度上对齐？
• RQ3 CNN中的架构先验如何影响显著性图的选择性与质量？
• RQ4 结合多种归因技术能否提升模型解释的可靠性和可解释性？
• RQ5 归因方法在医学影像中揭示模型偏差和潜在生物标志物方面发挥何种作用？

主要发现

• XRAI与Blur IG的结合实现了与专家标注分割35%的重叠，表明与临床相关区域高度对齐。
• XRAI在识别感兴趣区域特征方面优于原始梯度和引导集成梯度，表现出更高的可解释性。
• 不同归因方法揭示了不同的显著性模式，凸显了根据模型和数据特性选择方法的重要性。
• 具有更强归纳偏差的模型架构表现出更具有选择性的感受野，从而影响显著性图的质量与可解释性。
• 归因方法揭示了与人类视觉处理不一致的模型偏差，涉及纹理、形状和频率响应等方面。
• 本研究证实，稳健的表征学习与合适的归因技术对于生成可信、可解释的医学影像显著性图至关重要。