[论文解读] An Empirical Comparison of Explainable Artificial Intelligence Methods for Clinical Data: A Case Study on Traumatic Brain Injury

Amin Nayebi, Sindhu Tipirneni+3 more|arXiv (Cornell University)|Aug 13, 2022

Artificial Intelligence in Healthcare and Education被引用 5

一句话总结

本研究在创伤性脑损伤（TBI）临床预测模型上评估了六种可解释人工智能（XAI）方法——SHAP、LIME、Grad-CAM、LRP、Anchors 和 TreeInterpreter，数据涵盖结构化表格数据和时序生理数据。SHAP 在保真度和稳定性方面表现最佳，而 Anchors 在可理解性方面最优，但仅适用于表格数据，凸显了在临床应用中选择 XAI 方法时的权衡。

ABSTRACT

A longstanding challenge surrounding deep learning algorithms is unpacking and understanding how they make their decisions. Explainable Artificial Intelligence (XAI) offers methods to provide explanations of internal functions of algorithms and reasons behind their decisions in ways that are interpretable and understandable to human users. . Numerous XAI approaches have been developed thus far, and a comparative analysis of these strategies seems necessary to discern their relevance to clinical prediction models. To this end, we first implemented two prediction models for short- and long-term outcomes of traumatic brain injury (TBI) utilizing structured tabular as well as time-series physiologic data, respectively. Six different interpretation techniques were used to describe both prediction models at the local and global levels. We then performed a critical analysis of merits and drawbacks of each strategy, highlighting the implications for researchers who are interested in applying these methodologies. The implemented methods were compared to one another in terms of several XAI characteristics such as understandability, fidelity, and stability. Our findings show that SHAP is the most stable with the highest fidelity but falls short of understandability. Anchors, on the other hand, is the most understandable approach, but it is only applicable to tabular data and not time series data.

研究动机与目标

• 评估并比较多种 XAI 方法在创伤性脑损伤临床决策中的应用。
• 评估 XAI 技术在结构化表格数据和时序生理数据上的性能。
• 识别在真实临床环境中，可理解性、保真度和稳定性等关键 XAI 特性之间的权衡。
• 根据数据类型和可解释性需求，为研究人员提供选择合适 XAI 方法的指导。

提出的方法

• 开发了两个临床预测模型：一个基于表格数据预测短期 TBI 结局，另一个基于时序生理数据预测长期结局。
• 将六种 XAI 方法——SHAP、LIME、Grad-CAM、LRP、Anchors 和 TreeInterpreter——应用于两个模型的局部和全局解释。
• 通过保真度（解释与模型行为的一致性）、稳定性（在输入扰动下解释的一致性）和可理解性（对人类用户的清晰程度）等指标评估可解释性。
• 分析聚焦于模型无关与模型特定方法，特别关注其在不同数据模态中的适用性。
• 使用标准化评估标准，对六种 XAI 技术在定性和定量层面进行比较。
• 研究使用真实世界临床 TBI 数据集，以确保结果的相关性和实际应用价值。

实验结果

研究问题

• RQ1 哪种 XAI 方法在表格数据和时序临床数据上均能提供最忠实的模型预测解释？
• RQ2 不同 XAI 方法在应用于临床预测模型时，其稳定性和一致性如何比较？
• RQ3 在医疗背景下，XAI 技术在可理解性与技术性能（如保真度）之间存在何种权衡？
• RQ4 XAI 方法在多大程度上适用于时序生理数据？哪些方法仅限于表格输入？
• RQ5 XAI 方法的可解释性特征如何影响其在临床决策支持系统中的适用性？

主要发现

• SHAP 在表格数据和时序模型中均表现出最高的保真度和稳定性，表明其解释生成具有可靠性和一致性。
• Anchors 提供了最易理解的解释，尤其在表格数据中表现优异，但因结构限制无法应用于时序数据。
• LIME 和 Grad-CAM 展现中等保真度但稳定性较低，其解释在小幅度输入扰动下变化显著。
• LRP 和 TreeInterpreter 表现参差不齐：LRP 在深度模型中保真度高但可理解性差，而 TreeInterpreter 仅适用于树基模型。
• 本研究证实，没有一种 XAI 方法在所有可解释性维度上均表现卓越，强调应根据临床和数据特定需求选择方法。
• 时序数据对 XAI 方法构成独特挑战，仅有 SHAP 和 LIME 表现合理，而 Anchors 和 LRP 不适用。