[论文解读] Explainable Artificial Intelligence for Medical Applications: A Review

Qiyang Sun, Alican Akman+1 more|arXiv (Cornell University)|Nov 15, 2024

Machine Learning in Healthcare被引用 4

一句话总结

本综述整合了面向医疗应用的可解释人工智能（XAI）技术，将19种方法按视觉、听觉和多模态领域进行分类，以提升人工智能驱动诊断的透明度。文章倡导采用以用户为中心、多模态和个性化的XAI框架，以增强临床信任、公平性，并促进医疗领域的真实世界应用。

ABSTRACT

The continuous development of artificial intelligence (AI) theory has propelled this field to unprecedented heights, owing to the relentless efforts of scholars and researchers. In the medical realm, AI takes a pivotal role, leveraging robust machine learning (ML) algorithms. AI technology in medical imaging aids physicians in X-ray, computed tomography (CT) scans, and magnetic resonance imaging (MRI) diagnoses, conducts pattern recognition and disease prediction based on acoustic data, delivers prognoses on disease types and developmental trends for patients, and employs intelligent health management wearable devices with human-computer interaction technology to name but a few. While these well-established applications have significantly assisted in medical field diagnoses, clinical decision-making, and management, collaboration between the medical and AI sectors faces an urgent challenge: How to substantiate the reliability of decision-making? The underlying issue stems from the conflict between the demand for accountability and result transparency in medical scenarios and the black-box model traits of AI. This article reviews recent research grounded in explainable artificial intelligence (XAI), with an emphasis on medical practices within the visual, audio, and multimodal perspectives. We endeavour to categorise and synthesise these practices, aiming to provide support and guidance for future researchers and healthcare professionals.

研究动机与目标

• 应对复杂模型的黑箱特性所导致的AI驱动医疗决策中透明度与问责制的关键需求。
• 系统性地对视觉、听觉和多模态医疗应用中的19种XAI技术进行分类与评估。
• 识别当前XAI研究中的不足，特别是在听觉和多模态医学领域，并提出改进路径。
• 推动在XAI开发中整合患者和临床医生的反馈，以增强临床相关性与用户信任。
• 通过强调公平性、偏差缓解以及多样化、具有代表性的数据集，推进医疗领域中的伦理AI。

提出的方法

• 基于模型类型、解释类型、模态和实现方法四个标准，提出19种XAI技术的分类体系。
• 采用基于实现方式的分类方法，针对可解释性、保真度和临床可用性对每种方法进行评估。
• 回顾并综合近期在医学影像（如用于肿瘤检测的卷积神经网络）、听觉分析（如声音病理学）和多模态系统（如整合图像与生理数据的Transformer模型）中应用的XAI技术。
• 整合新兴技术如声学化（sonification）——将数据转化为非语言的声音形式——以增强多模态数据的解释能力。
• 倡导在模型训练和解释过程中使用公平性度量（如差异影响、平等机会）以检测并减少偏差。
• 强调用户导向开发的必要性，包括临床医生和患者参与数据收集与解释设计，以确保实用性与可接受性。

实验结果

研究问题

• RQ1 如何系统性地对医疗应用中视觉、听觉和多模态领域的XAI技术进行分类与评估？
• RQ2 当前XAI在医疗领域中的局限性是什么，特别是在听觉和多模态医学方面，如何加以解决？
• RQ3 如何使XAI模型在临床决策中更具个性化、交互性与适应性，以匹配个体患者特征？
• RQ4 数据多样性与公平性度量在减少偏差、提升医疗XAI系统伦理标准方面发挥什么作用？
• RQ5 如声学化等新型解释方法如何增强多模态环境中复杂医疗数据的可解释性？

主要发现

• 显著性图、LIME和注意力可视化等XAI技术在解释深度学习模型用于医学影像方面展现出强大潜力，可提升临床医生的信任度与诊断准确性。
• 基于听觉的医疗AI应用在XAI领域仍处于探索不足状态，针对声学数据时间与频谱特性的定制化技术应用有限。
• 多模态XAI，特别是利用Transformer整合影像、听觉与生理数据，能够提供更全面且上下文感知的临床洞察。
• 声学化提供了一种新颖的非视觉方法，用于解释复杂医疗数据，增强了可访问性与多模态理解能力。
• 当前XAI方法在真实临床环境中的严格验证仍显不足，亟需更深入地与临床医生和患者整合，以确保可用性与相关性。
• 医疗AI中的偏差因数据集缺乏代表性而加剧；公平性评估与数据增强技术对于提升公平性、减少差异至关重要。