[论文解读] A Brief Review of Explainable Artificial Intelligence in Healthcare

Zahra Sadeghi, Roohallah Alizadehsani+14 more|arXiv (Cornell University)|Apr 4, 2023

Machine Learning in Healthcare被引用 4

一句话总结

本文对医疗保健领域中的可解释人工智能（XAI）进行了系统性综述，将XAI方法分类为六类——面向特征的方法、全局方法、概念方法、代理模型方法、基于局部像素的方法以及以人为中心的方法。文章强调了模型可解释性在建立临床医生信任以及确保高风险医疗决策中安全、透明的AI部署方面所起的关键作用。

ABSTRACT

XAI refers to the techniques and methods for building AI applications which assist end users to interpret output and predictions of AI models. Black box AI applications in high-stakes decision-making situations, such as medical domain have increased the demand for transparency and explainability since wrong predictions may have severe consequences. Model explainability and interpretability are vital successful deployment of AI models in healthcare practices. AI applications' underlying reasoning needs to be transparent to clinicians in order to gain their trust. This paper presents a systematic review of XAI aspects and challenges in the healthcare domain. The primary goals of this study are to review various XAI methods, their challenges, and related machine learning models in healthcare. The methods are discussed under six categories: Features-oriented methods, global methods, concept models, surrogate models, local pixel-based methods, and human-centric methods. Most importantly, the paper explores XAI role in healthcare problems to clarify its necessity in safety-critical applications. The paper intends to establish a comprehensive understanding of XAI-related applications in the healthcare field by reviewing the related experimental results. To facilitate future research for filling research gaps, the importance of XAI models from different viewpoints and their limitations are investigated.

研究动机与目标

• 审查可解释人工智能（XAI）技术在医疗保健应用中的当前状态。
• 识别并分类与医疗AI系统相关的关键XAI方法。
• 分析在临床环境中实施XAI所面临的挑战，包括信任与可解释性障碍。
• 评估XAI对模型透明度及安全关键医疗环境中临床医生决策的影响。
• 突出XAI在医学领域发展中存在的研究空白与未来方向。

提出的方法

• 开展聚焦于医疗保健中应用的XAI方法的系统性文献综述。
• 将XAI技术分类为六类：面向特征的方法、全局方法、概念模型、代理模型、基于局部像素的方法以及以人为中心的方法。
• 分析XAI在医学影像、诊断和治疗规划中应用的实验结果。
• 评估每种XAI方法在提升模型透明度与用户信任方面的有效性。
• 评估不同XAI方法在临床环境中所面临的局限性与挑战。
• 综合多样化观点，以指导医疗AI未来的研究与实施。

实验结果

研究问题

• RQ1 医疗保健中主要使用的XAI方法有哪些？它们在模型解释方法上如何不同？
• RQ2 XAI技术如何促进临床医生对AI驱动医疗决策的信任与接受？
• RQ3 在真实临床环境中部署XAI模型面临的主要挑战是什么？
• RQ4 不同XAI方法在可解释性、保真度和可用性方面，在医疗应用中的表现如何？
• RQ5 XAI在医疗保健领域中存在哪些关键研究空白，需要进一步研究？

主要发现

• LIME、SHAP和注意力图等XAI方法显著提升了医学影像与诊断中的模型可解释性。
• 以人为中心的XAI方法显示出更高的临床医生满意度，并与临床推理过程更契合。
• 代理模型与基于概念的方法增强了对医疗保健中复杂深度学习模型的理解。
• 基于局部像素的方法（如Grad-CAM）在突出医学图像中的相关区域方面表现有效，提升了诊断透明度。
• 尽管已取得进展，但在XAI评估的标准化以及确保其在多样化临床环境中的稳定表现方面仍存在挑战。
• 由于技术、伦理与监管障碍，XAI在临床工作流程中的整合仍有限，表明需要进一步研究与验证。