[论文解读] Explaining Deep Learning for ECG Analysis: Building Blocks for Auditing and Knowledge Discovery

Patrick Wagner, Temesgen Mehari+2 more|arXiv (Cornell University)|May 26, 2023

ECG Monitoring and Analysis参考文献 64被引用 4

一句话总结

本文提出了一套用于心电图（ECG）分析中可解释人工智能（XAI）的系统性框架，采用事后归因方法，并引入新颖的合理性检验与全局-局部XAI技术，对患者亚组的归因进行聚合。该框架展示了模型决策与临床知识之间可靠的对齐，支持模型审计与知识发现——例如在PTB-XL数据集中识别心肌梗死亚型——方法包括GradCAM、显著性图以及隐藏特征聚类。

ABSTRACT

Deep neural networks have become increasingly popular for analyzing ECG data because of their ability to accurately identify cardiac conditions and hidden clinical factors. However, the lack of transparency due to the black box nature of these models is a common concern. To address this issue, explainable AI (XAI) methods can be employed. In this study, we present a comprehensive analysis of post-hoc XAI methods, investigating the local (attributions per sample) and global (based on domain expert concepts) perspectives. We have established a set of sanity checks to identify sensible attribution methods, and we provide quantitative evidence in accordance with expert rules. This dataset-wide analysis goes beyond anecdotal evidence by aggregating data across patient subgroups. Furthermore, we demonstrate how these XAI techniques can be utilized for knowledge discovery, such as identifying subtypes of myocardial infarction. We believe that these proposed methods can serve as building blocks for a complementary assessment of the internal validity during a certification process, as well as for knowledge discovery in the field of ECG analysis.

研究动机与目标

• 通过开发可靠、可审计的XAI方法，解决深度学习模型在心电图分析中的黑箱问题。
• 为事后XAI方法建立定量合理性检验，以确保其在临床环境中的可靠性。
• 通过在患者亚组上聚合归因（全局-局部XAI），实现知识发现，揭示如心电图亚型等隐藏模式。
• 通过全局XAI验证模型是否利用专家认可的临床概念，支持内部有效性审计。
• 提供一个可复现的、开源的XAI流程，基于PTB-XL数据集与标准XAI库进行心电图分析。

提出的方法

• 提出一组合理性检验，通过专家定义的规则与定量指标，评估GradCAM和显著性图等事后XAI方法的可靠性。
• 引入“全局-局部XAI”——将整个患者亚组（如心肌梗死MI、非ST段抬高型心肌梗死ASMI）的归因图进行聚合，以揭示与病理相关的稳定信号区域。
• 利用软分割输出中的R波峰值检测，提取平均搏动与以搏动为中心的归因，实现信号对齐的一致性。
• 通过加权求和方式实现信号与归因的聚合，使用软分割图：$\mathbf{m}_i = \mathbf{x}_{:,i}^\top \mathbf{s}_{:,i,:}$，并按时间总和$\mathbf{\tilde{s}}$进行归一化。
• 对输入信号、归因与隐藏特征进行降维（主成分分析PCA至75%方差）与聚类（高斯混合模型GMM、k均值），以发现亚型。
• 通过比较平均归因并叠加偏差至原始信号，可视化聚类间的差异，以识别临床相关区域。

Figure 1 : Overview of different XAI approaches proposed in the context of ECG analysis along with corresponding applications (orange boxes). A deep learning model is trained on ECG data, which is supposed to be used as a decision support system. Local XAI methods allow the extraction of per-sample

实验结果

研究问题

• RQ1 哪些事后XAI方法能可靠地反映专家认可的心电图特征，同时避免虚假相关？
• RQ2 在患者亚组上聚合的归因（全局-局部XAI）是否能揭示一致且具有临床意义的心电图信号模式？
• RQ3 深度学习模型是否利用了已知的临床决策规则？能否通过全局XAI进行定量验证？
• RQ4 对模型归因与隐藏特征进行聚类，能否揭示生物学或临床上相关的心肌梗死亚型？
• RQ5 不同XAI方法在支持心电图分析中模型审计与知识发现方面的能力如何比较？

主要发现

• 所提出的合理性检验成功识别出与专家规则对齐的可靠XAI方法，减少了对经验性验证的依赖。
• 全局-局部XAI在亚组间揭示了稳定且与病理相关的归因模式，四种病理（如MI、ASMI）间表现出强一致性。
• 归因图的聚类实现了较高的调整兰德指数，表明模型为不同亚型学习到了区分明显且可解释的表征。
• 该方法成功识别出聚类间空间与时间维度上的高偏差区域，凸显了临床相关的ECG形态差异。
• 通过GMM聚类隐藏特征表示时，聚类性能表现优异，表明模型学习到了解耦且有意义的表征。
• 该框架实现了对模型行为的系统性审计与亚型发现，仅依赖模型输出与XAI即可实现，例如区分MI与ASMI。

(a) P-wave amplitude ( XResNet )