[论文解读] Enhancing the Extraction of Interpretable Information for Ischemic Stroke Imaging from Deep Neural Networks

Erico Tjoa, Heng Guo+2 more|arXiv (Cornell University)|Nov 19, 2019

Explainable Artificial Intelligence (XAI)参考文献 17被引用 9

一句话总结

本文通过应用改进的逐层显著性传播（LRP）方法，提升了3D U-Net在缺血性卒中病灶分割中的可解释性。作者表明，LRP图中的信号幅度与信息含量相关，其改进方法降低了噪声，从而生成更可靠的临床决策支持可视化解释。

ABSTRACT

We implement a visual interpretability method Layer-wise Relevance Propagation (LRP) on top of 3D U-Net trained to perform lesion segmentation on the small dataset of multi-modal images provided by ISLES 2017 competition. We demonstrate that LRP modifications could provide more sensible visual explanations to an otherwise highly noise-skewed saliency map. We also link amplitude of modified signals to useful information content. High amplitude localized signals appear to constitute the noise that undermines the interpretability capacity of LRP. Furthermore, mathematical framework for possible analysis of function approximation is developed by analogy.

研究动机与目标

• 提升深度神经网络在缺血性卒中影像中的可解释性，特别是针对病灶分割任务。
• 解决标准LRP在3D医学图像分析中生成的显著性图存在噪声和不可靠的问题。
• 开发一种方法，通过将信号幅度与有意义的信息内容关联，提升可视化解释的可靠性。
• 为解释性深度学习中的函数逼近分析提供数学框架。
• 在ISLES 2017数据集上验证该方法，该数据集为小型、多模态医学影像基准。

提出的方法

• 将逐层显著性传播（LRP）应用于在ISLES 2017数据集上训练的3D U-Net模型，用于缺血性卒中病灶分割。
• 对标准LRP算法进行改进，以降低显著性图中的噪声并提升可视化可解释性。
• 分析显著性信号的幅度，以识别高信息含量区域与噪声区域。
• 采用改进的LRP公式，抑制虚假激活，从而生成更局部化且更合理的解释。
• 构建数学类比以支持函数逼近分析，为可解释性方法提供理论基础。
• 在ISLES 2017竞赛的真实3D多模态MRI/CT图像上验证该方法。

实验结果

研究问题

• RQ1 如何改进标准LRP，以在3D缺血性卒中影像中生成更可靠且可解释的显著性图？
• RQ2 显著性信号的幅度与有意义的诊断信息存在何种关系？
• RQ3 能否系统性地减少LRP图中的噪声，同时不损失临床相关特征？
• RQ4 改进后的LRP信号在定位性和合理性方面与标准LRP相比有何差异？
• RQ5 能否为函数逼近构建一个理论框架，以支持医学深度学习中的可解释性？

主要发现

• 改进的LRP方法显著降低了显著性图中的噪声，生成了更连贯且临床合理的可视化解释。
• 显著性图中高幅度的局部化信号对应于具有有用信息含量的区域，而弥散或分散的高幅度区域则指示噪声。
• 改进的LRP方法通过抑制掩盖病灶边界的真实激活，提升了3D U-Net的可解释性。
• 该方法在多模态缺血性卒中影像中实现了相关特征的更好定位，尤其在复杂解剖区域表现更优。
• 所开发的数学框架支持函数逼近的理论分析，为未来医学AI中的可解释性研究提供支持。
• 该方法在ISLES 2017数据集上得到验证，尽管数据集规模较小，但可视化解释质量始终得到一致提升。