[论文解读] Explainable AI meets Healthcare: A Study on Heart Disease Dataset

Devam Dave, Het Naik+2 more|arXiv (Cornell University)|Nov 6, 2020

Explainable Artificial Intelligence (XAI)参考文献 9被引用 71

一句话总结

本论文综述并展示了多种可解释 AI 技术（基于特征与基于示例），应用于心脏病数据集，说明解释如何在医疗预测中提升信任和可解释性。

ABSTRACT

With the increasing availability of structured and unstructured data and the swift progress of analytical techniques, Artificial Intelligence (AI) is bringing a revolution to the healthcare industry. With the increasingly indispensable role of AI in healthcare, there are growing concerns over the lack of transparency and explainability in addition to potential bias encountered by predictions of the model. This is where Explainable Artificial Intelligence (XAI) comes into the picture. XAI increases the trust placed in an AI system by medical practitioners as well as AI researchers, and thus, eventually, leads to an increasingly widespread deployment of AI in healthcare. In this paper, we present different interpretability techniques. The aim is to enlighten practitioners on the understandability and interpretability of explainable AI systems using a variety of techniques available which can be very advantageous in the health-care domain. Medical diagnosis model is responsible for human life and we need to be confident enough to treat a patient as instructed by a black-box model. Our paper contains examples based on the heart disease dataset and elucidates on how the explainability techniques should be preferred to create trustworthiness while using AI systems in healthcare.

研究动机与目标

• 使用 Heart Disease Cleveland 数据集研究并比较基于特征和基于示例的 XAI 技术。
• 说明解释如何支持医疗保健 AI 的透明度、一致性、公平性和信任。
• 就不同医疗情境下选择解释技术提供指南。
• 展示使用 XAI 工具解释心脏病分类器预测的实际应用。

提出的方法

• 使用 Heart Disease Cleveland 数据集和 XGBoost 训练心脏病分类器。
• 讨论并应用基于特征的解释：LIME 和 SHAP，具有局部和全局视角。
• 呈现基于示例的解释：Anchors、Counterfactuals、由原型引导的对比性反事实，以及 CEM。
• 将 Kernel SHAP 和 Integrated Gradients 作为额外的解释方法介绍。
• 使用 Alibi 及相关库在真实数据示例上说明解释。

实验结果

研究问题

• RQ1 在 Heart Disease Cleveland 数据集上，不同的 XAI 技术如何解释预测？
• RQ2 在本情境下，哪些 XAI 方法能为医疗从业人员提供更真实或更有用的解释？
• RQ3 在医疗决策支持中，本地解释与全局解释之间的实际权衡是什么？
• RQ4 对比事实和对照性解释如何为潜在治疗或诊断的改变提供信息？

主要发现

• LIME 和 SHAP 提供心脏病分类器的局部和全局特征级解释。
• SHAP 可视化（力图、摘要图和依赖图）揭示哪些特征对预测影响最大（如 ca、thal、cp、chol）。
• Anchors 提供基于规则的局部解释，在某些情况下可能比 SHAP 更高效。
• 对比性解释展示了能够最小化特征变化就能改变预测，强调可操作的见解（如减少阻塞血管）。
• 由原型引导的对比性解释通过利用类别原型加速解释搜索。
• CEM 提供 Pertinent Positives 和 Pertinent Negatives，用于描述给定预测所必需或充分的特征。
• Kernel SHAP 与 Integrated Gradients 提供可扩展的局部解释和模型行为的全局摘要。
• 本文展示了如何将一套 XAI 工具结合使用，以在医疗保健 AI 中培养信任。