[論文レビュー] Explaining Deep Learning for ECG Analysis: Building Blocks for Auditing and Knowledge Discovery

Patrick Wagner, Temesgen Mehari+2 more|arXiv (Cornell University)|May 26, 2023

ECG Monitoring and Analysis参考文献 64被引用数 4

ひとこと要約

本論文は、Post-hoc属性付け手法を用いた心電図（ECG）解析における説明可能AI（XAI）の体系的フレームワークを提案する。新規の健全性チェックとglocal XAI技術を導入し、患者サブグループにわたる属性付けを統合する。GradCAM、勾配マップ、隠れ特徴のクラスタリングを用いて、PTB-XLデータセット上で、モデルの意思決定と臨床的知識の間の信頼性の高い一致を示し、心筋梗塞の亜型の同定といった監査と知識発見を可能にする。

ABSTRACT

Deep neural networks have become increasingly popular for analyzing ECG data because of their ability to accurately identify cardiac conditions and hidden clinical factors. However, the lack of transparency due to the black box nature of these models is a common concern. To address this issue, explainable AI (XAI) methods can be employed. In this study, we present a comprehensive analysis of post-hoc XAI methods, investigating the local (attributions per sample) and global (based on domain expert concepts) perspectives. We have established a set of sanity checks to identify sensible attribution methods, and we provide quantitative evidence in accordance with expert rules. This dataset-wide analysis goes beyond anecdotal evidence by aggregating data across patient subgroups. Furthermore, we demonstrate how these XAI techniques can be utilized for knowledge discovery, such as identifying subtypes of myocardial infarction. We believe that these proposed methods can serve as building blocks for a complementary assessment of the internal validity during a certification process, as well as for knowledge discovery in the field of ECG analysis.

研究の動機と目的

• 深層学習モデルのブラックボックス性に対処し、ECG解析において信頼性が高く監査可能なXAI手法を開発すること。
• 臨床的文脈における信頼性を保証するため、Post-hoc XAI手法の定量的健全性チェックを確立すること。
• 患者サブグループにわたる属性付けの統合（glocal XAI）により、ECG亜型のような隠れたパターンを明らかにすることによる知識発見を可能にすること。
• グローバルXAIを用いて、モデルが専門家が認識する臨床的原則を活用しているかどうかを検証し、内部妥当性の監査を支援すること。
• PTB-XLと標準XAIライブラリを用いた、再現可能でオープンソースのXAIパイプラインを提供すること。

提案手法

• 専門家が定義したルールと定量的指標を用いて、GradCAM や勾配マップなどのPost-hoc XAI手法の信頼性を評価するための健全性チェックのセットを提案する。
• 「glocal XAI」を導入し、患者サブグループ（例：心筋梗塞（MI）、非ST上昇性心筋梗塞（ASMI）など）全体にわたる属性マップを統合することで、病態に関連する一貫した信号領域を明らかにする。
• ソフトセグメンテーション出力からのRピーク検出を用い、中央に揃えた平均心拍と心拍中心の属性付けを抽出することで、信号の整合性を確保する。
• ソフトセグメンテーションマップを用いた重み付き和を用いた信号および属性の統合：$\mathbf{m}_i = \mathbf{x}_{:,i}^\top \mathbf{s}_{:,i,:}$、時間的合計 $\mathbf{\tilde{s}}$ で正規化する。
• 入力信号、属性、隠れ特徴の次元削減（75%分散まで主成分分析（PCA））とクラスタリング（GMM、k-means）を実施し、亜型を発見する。
• 平均属性の比較と元の信号への偏差の重ね合わせにより、クラスタの差を可視化し、臨床的に関連する領域を特定する。

Figure 1 : Overview of different XAI approaches proposed in the context of ECG analysis along with corresponding applications (orange boxes). A deep learning model is trained on ECG data, which is supposed to be used as a decision support system. Local XAI methods allow the extraction of per-sample

実験結果

リサーチクエスチョン

• RQ1 どのPost-hoc XAI手法が専門家が認識するECG特徴を信頼性高く反映し、誤った相関を避けることができるか？
• RQ2 患者サブグループにわたる属性付けの集約（glocal XAI）により、ECG信号に一貫性があり臨床的に意味のあるパターンが明らかになるか？
• RQ3 深層学習モデルは既知の臨床的意思決定ルールを活用しているのか？グローバルXAIを用いてその妥当性を定量的に検証できるか？
• RQ4 モデルの属性付けと隠れ特徴のクラスタリングにより、生物学的または臨床的に意味のある心筋梗塞の亜型が同定できるか？
• RQ5 異なるXAI手法は、ECG解析における監査と知識発見の支援において、どのように性能を発揮するか？

主な発見

• 提案された健全性チェックにより、専門家のルールと整合する信頼性の高いXAI手法が特定され、主観的検証に依存するのを減らすことができた。
• glocal XAIにより、サブグループ全体にわたって一貫した病態特異的属性パターンが明らかになり、4つの病態（例：MI、ASMI）で強い一致が確認された。
• 属性マップのクラスタリングは高い調整ランダム係数スコアを達成し、モデルが異なる亜型に対して明確で解釈可能な表現を学習していることを示した。
• 本手法により、クラスタ間の空間的・時間的偏差が顕著な領域が特定され、臨床的に関連するECG形態の差異が強調された。
• 隠れ特徴表現をGMMでクラスタリングした場合、高いクラスタリング性能が得られ、モデルが分離可能で意味のある表現を学習していることを示唆した。
• 本フレームワークにより、モデルの挙動の体系的監査と、MIとASMIの区別といった亜型の同定が、モデル出力とXAIのみを用いて可能になった。

(a) P-wave amplitude ( XResNet )