[论文解读] Beyond Known Reality: Exploiting Counterfactual Explanations for Medical Research

Toygar Tanyel, Serkan Ayvaz+1 more|arXiv (Cornell University)|Jul 5, 2023

Explainable Artificial Intelligence (XAI)被引用 6

一句话总结

本文提出使用反事实解释来增强基于磁共振成像（MRI）的儿童后颅窝脑瘤诊断中的可解释性，支持个性化的“假设”情景分析，以揭示隐藏的特征关系并提升模型可信度。该方法通过生成最小的输入扰动来改变预测结果，展示了其在临床洞察、数据增强和偏差缓解方面的可行性，结果在统计学和临床上均具合理性。

ABSTRACT

The field of explainability in artificial intelligence (AI) has witnessed a growing number of studies and increasing scholarly interest. However, the lack of human-friendly and individual interpretations in explaining the outcomes of machine learning algorithms has significantly hindered the acceptance of these methods by clinicians in their research and clinical practice. To address this issue, our study uses counterfactual explanations to explore the applicability of "what if?" scenarios in medical research. Our aim is to expand our understanding of magnetic resonance imaging (MRI) features used for diagnosing pediatric posterior fossa brain tumors beyond existing boundaries. In our case study, the proposed concept provides a novel way to examine alternative decision-making scenarios that offer personalized and context-specific insights, enabling the validation of predictions and clarification of variations under diverse circumstances. Additionally, we explore the potential use of counterfactuals for data augmentation and evaluate their feasibility as an alternative approach in our medical research case. The results demonstrate the promising potential of using counterfactual explanations to improve AI-driven methods in clinical research.

研究动机与目标

• 为解决人工智能驱动的医学诊断中缺乏面向人类、个性化的解释问题，特别是针对临床医生和患者。
• 探究反事实解释如何揭示MRI特征与肿瘤亚型之间超越已知临床模式的隐藏关系。
• 评估反事实解释作为一种新型数据增强策略的可行性，相较于传统方法，其能更好地保持数据分布并减少偏差。
• 通过最小特征变化实现在未知组织病理学结果的患者中实现早期、可解释的肿瘤类型估计。
• 评估反事实解释在检测和减轻医学人工智能系统中模型偏差方面的作用。

提出的方法

• 利用无需依赖模型的反事实生成框架DiCE，识别能够改变模型预测的最小特征扰动。
• 将反事实解释应用于每种肿瘤亚型，生成‘假设’情景，识别使诊断发生改变所需的最小变化。
• 采用核密度估计和p值验证生成的反事实在统计上与真实数据分布的一致性。
• 通过最大化少数类中的多样性，利用反事实解释实现数据平衡，尤其在低数据场景下表现突出。
• 将反事实解释整合到临床工作流程中，用于在无组织病理学标签的患者中估计肿瘤类型。
• 通过分析不同患者亚组中特征变化情况，验证反事实解释在公平性和透明度方面的表现。

实验结果

研究问题

• RQ1 反事实解释在多大程度上能够揭示MRI特征与儿童后颅窝肿瘤亚型之间先前未被发现的关系？
• RQ2 在医学影像数据有限的情况下，反事实解释在多大程度上可作为传统数据增强方法的可行替代方案？
• RQ3 反事实解释能否在最终诊断前，实现对未知组织病理学结果患者的准确、可解释的肿瘤类型估计？
• RQ4 反事实生成的特征在统计学和临床真实性方面与真实患者数据相比如何？
• RQ5 反事实解释在哪些方面有助于检测和减少基于人工智能的医学诊断模型中的偏差？

主要发现

• 反事实解释成功识别出能改变肿瘤亚型预测的最小特征变化，揭示了不同肿瘤类型之间具有临床意义的差异。
• 生成的反事实在统计上具有高度保真度，大多数情况下p值显示其与真实数据分布无显著差异。
• 基于反事实的数据增强方法显著提升了模型性能，尤其在低数据场景下，其在分布对齐方面优于传统的SMOTE方法。
• 该方法通过选择所需特征变化最小的肿瘤亚型，实现了对未知标签患者肿瘤类型的准确估计。
• 反事实分析表明，某些MRI特征（如病灶大小、信号强度和位置）在区分肿瘤亚型方面具有最强影响力。
• 尽管在使用DiCE时面临收敛性和优化时间的挑战，但该方法在临床可解释性和偏差检测方面展现出强大潜力。