[논문 리뷰] Explaining Deep Learning for ECG Analysis: Building Blocks for Auditing and Knowledge Discovery

Patrick Wagner, Temesgen Mehari외 2명|arXiv (Cornell University)|2023. 05. 26.

ECG Monitoring and Analysis참고 문헌 64인용 수 4

한 줄 요약

이 논문은 PTB-XL 데이터셋을 사용하여 심전도 분석에서 설명 가능한 인공지능(XAI)을 위한 체계적인 프레임워크를 제안한다. 후행적 기여도 방법을 활용하며, 새로운 정신 검사와 글로벌-로컬 통합 XAI 기법을 도입하여 환자 하위군 간 기여도를 집계한다. 이는 모델의 결정과 임상 지식 간 신뢰할 수 있는 일치를 보여주며, 심장마비의 하위 유형을 식별하는 등 감시 및 지식 발견을 가능하게 한다. GradCAM, 기여도 맵, 숨은 특징의 군집화를 통해 심전도 신호 분석에 활용된다.

ABSTRACT

Deep neural networks have become increasingly popular for analyzing ECG data because of their ability to accurately identify cardiac conditions and hidden clinical factors. However, the lack of transparency due to the black box nature of these models is a common concern. To address this issue, explainable AI (XAI) methods can be employed. In this study, we present a comprehensive analysis of post-hoc XAI methods, investigating the local (attributions per sample) and global (based on domain expert concepts) perspectives. We have established a set of sanity checks to identify sensible attribution methods, and we provide quantitative evidence in accordance with expert rules. This dataset-wide analysis goes beyond anecdotal evidence by aggregating data across patient subgroups. Furthermore, we demonstrate how these XAI techniques can be utilized for knowledge discovery, such as identifying subtypes of myocardial infarction. We believe that these proposed methods can serve as building blocks for a complementary assessment of the internal validity during a certification process, as well as for knowledge discovery in the field of ECG analysis.

연구 동기 및 목표

• 심전도 분석에서 딥러닝 모델의 투명성 부족 문제를 해결하기 위해 신뢰할 수 있고 감시 가능한 XAI 방법을 개발한다.
• 후행적 XAI 방법의 신뢰성을 보장하기 위해 정량적 정신 검사를 수립하여 임상 환경에서의 신뢰도를 확보한다.
• 환자 하위군(글로벌-로컬 XAI) 간 기여도를 집계하여 은폐된 패턴(예: 심전도 하위 유형)을 드러내는 지식 발견을 가능하게 한다.
• 모델이 전문가가 인식한 임상 개념을 활용하는지 확인하기 위해 글로벌 XAI를 활용하여 내부 타당성 감시를 지원한다.
• PTB-XL과 표준 XAI 라이브러리를 사용하여 재현 가능하고 오픈소스인 XAI 파이프라인을 제공한다.

제안 방법

• 전문가가 정의한 규칙과 정량적 지표를 사용하여 GradCAM 및 기여도 맵과 같은 후행적 XAI 방법의 신뢰성을 평가하기 위한 정신 검사 세트를 제안한다.
• ‘글로벌-로컬 XAI’를 도입하여 환자 하위군(예: 심근경색(MI), 부정맥성 심근경색(ASMI)) 전체에 걸쳐 기여도 맵을 집계하여 병리학적 관련 영역을 드러낸다.
• 소프트 세그멘테이션 출력에서 R파형 검출을 통해 중앙값 심박수와 심박수 중심 기여도를 추출하여 일관된 신호 정렬을 확보한다.
• 소프트 세그멘테이션 맵을 사용한 가중합산을 통한 신호 및 기여도 집계: $\mathbf{m}_i = \mathbf{x}_{:,i}^\top \mathbf{s}_{:,i,:}$, 시간 축 합산 $\mathbf{\tilde{s}}$로 정규화한다.
• 입력 신호, 기여도, 숨은 특징에 대해 주성분 분석(PCA)을 75% 분산 기준으로 수행하고, 군집화(GMM, k-means)를 통해 하위 유형을 탐색한다.
• 평균 기여도를 비교하고 원본 신호에 편차를 오버랩하여 군집 간 차이를 시각화하여 임상적으로 관련 있는 영역을 식별한다.

Figure 1 : Overview of different XAI approaches proposed in the context of ECG analysis along with corresponding applications (orange boxes). A deep learning model is trained on ECG data, which is supposed to be used as a decision support system. Local XAI methods allow the extraction of per-sample

실험 결과

연구 질문

• RQ1 어떤 후행적 XAI 방법이 전문가가 인식한 심전도 특징을 안정적으로 반영하고 허위 상관관계를 피할 수 있는가?
• RQ2 환자 하위군 간 기여도를 집계한 글로벌-로컬 XAI는 심전도 신호에서 일관되고 임상적으로 의미 있는 패턴을 드러낼 수 있는가?
• RQ3 딥러닝 모델이 알려진 임상 의사결정 규칙을 활용하는가? 이는 글로벌 XAI를 통해 정량적으로 검증할 수 있는가?
• RQ4 모델 기여도 및 숨은 특징의 군집화를 통해 심근경색의 생물학적 또는 임상적으로 관련 있는 하위 유형을 드러낼 수 있는가?
• RQ5 다양한 XAI 방법은 심전도 분석에서 감시 및 지식 발견을 지원하는 데 있어 어떤 정도의 성능을 보이는가?

주요 결과

• 제안된 정신 검사 방법은 전문가 규칙과 일치하는 안정적인 XAI 방법을 효과적으로 식별하여 사례 기반 검증에 의존하는 것을 줄였다.
• 글로벌-로컬 XAI는 하위군 전체에 걸쳐 일관되고 병리학적 특화된 기여도 패턴을 드러내었으며, 4개 병리(예: MI, ASMI) 간 높은 일치도를 보였다.
• 기여도 맵 군집화에서 조정된 랜드 스코어가 높아, 모델이 서로 다른 하위 유형에 대해 구분 가능하고 해석 가능한 표현을 학습하고 있음을 시사한다.
• 이 방법은 군집 간 높은 편차를 보이는 공간적·시간적 영역을 성공적으로 식별하여 임상적으로 관련 있는 심전도 형태 차이를 드러냈다.
• 숨은 특징 표현을 GMM로 군집화했을 때 높은 군집화 성능를 달성하여, 모델이 분리되고 의미 있는 표현을 학습하고 있음을 시사한다.
• 이 프레임워크는 모델 행동의 체계적 감시와 MI와 ASMI를 구분하는 등의 하위 유형 식별을 가능하게 하며, 오직 모델 출력과 XAI 자료만으로도 수행할 수 있다.

(a) P-wave amplitude ( XResNet )