[논문 리뷰] Electrocardiogram Classification with Transformers Using Koopman and Wavelet Features

Sucheta Ghosh, Zahra Monfared|arXiv (Cornell University)|2026. 03. 09.

ECG Monitoring and Analysis인용 수 0

한 줄 요약

본 논문은 ECG에 대해 Koopman 기반 특징과 웨이브렛 특징을 트랜스포머 분류기와 함께 평가한다; EDMD로 정제된 Koopman 특징은 다중 클래스에서 웨이브렛 벤치마크를 능가하고, 반면 웨이브렛은 이진 태스크에서 우수하다.

ABSTRACT

Electrocardiogram (ECG) analysis is vital for detecting cardiac abnormalities, yet robust automated classification is challenging due to the complexity and variability of physiological signals. In this work, we investigate transformer-based ECG classification using features derived from the Koopman operator and wavelet transforms. Two tasks are studied: (1) binary classification (Normal vs. Non-normal), and (2) four-class classification (Normal, Atrial Fibrillation, Ventricular Arrhythmia, Block). We use Extended Dynamic Mode Decomposition (EDMD) to approximate the Koopman operator. Our results show that wavelet features excel in binary classification, while Koopman features, when paired with transformers, achieve superior performance in the four-class setting. A simple hybrid of Koopman and wavelet features does not improve accuracy. However, selecting an appropriate EDMD dictionary -- specifically a radial basis function dictionary with tuned parameters -- yields significant gains, surpassing the wavelet-only baseline and the hybrid wavelet-Koopman system. We also present a Koopman-based reconstruction analysis for interpretable insights into the learned dynamics and compare against a recurrent neural network baseline. Overall, our findings demonstrate the effectiveness of Koopman-based feature learning with transformers and highlight promising directions for integrating dynamical systems theory into time-series classification.

연구 동기 및 목표

• ECG 분류를 위한 트랜스포머 분류기와 함께 Koopman 기반 특징의 효과를 평가한다.
• 이진 및 4-클래스 ECG 태스크에서 Koopman 특징과 웨이브렛 기반 특징을 비교한다.
• Koopman과 웨이브렛 특징의 하이브리드 및 EDMD 매개변수의 정제를 조사한다.
• Koopman 기반 재구성 및 고유구조 분석을 통한 해석 가능성에 대한 인사이트를 제공한다.

제안 방법

• Transformer 입력을 위해 이산 웨이브렛 변환을 통해 웨이브렛 기반 특징을 추출한다.
• RBF 사전을 사용한 확장 동적 모드 분해(Extended Dynamic Mode Decomposition)로 Koopman 연산자를 근사화하여 고유값, 고유함수 및 Transformer 입력에 관련된 특징을 도출한다.
• Koopman 특징과 웨이브렛 특징을 선택적으로 연결하고 Transformer 인코더에 입력한다(하이브리드 접근).
• 성능 향상을 위해 EDMD 하이퍼파라미터(delay, rbf_centers, rbf_sigma, svd_rank)를 조정하여 Koopman 특징을 정제한다.
• 고정 길이 ECG 윈도우를 가진 특징으로 트랜스포머 기반 분류기를 학습하고 MIMIC-IV-ECG 데이터에서 RNN 기준선과 비교한다.
• 이진 태스크(정상 대 비정상) 및 4분류 태스크를 평가하고 F1 점수와 재구성 품질을 보고한다.

실험 결과

연구 질문

• RQ1 Koopman 기반 특징과 트랜스포머가 웨이브렛 기반 특징에 비해 ECG 분류 성능이 우수할 수 있는가?
• RQ2 하이브리드 웨이브렛 및 Koopman 특징이 단일 특징 접근법보다 성능을 향상시키는가?
• RQ3 EDMD 하이퍼파라미터가 ECG 데이터에서 Koopman 기반 트랜스포머 성능에 어떤 영향을 미치는가?
• RQ4 Koopman 기반 재구성이 학습된 심장 역학과 해석 가능성에 대해 어떤 시사점을 제공하는가?

주요 결과

방법	이진 분류 F1	4-클래스 분류 F1
Wavelet + Transformer	0.750 \pm 0.02	0.700 \pm 0.03
Koopman + Transformer	0.697 \pm 0.01	0.771 \pm 0.02
Hybrid (Wavelet + Koopman) + Transformer	0.677 \pm 0.01	0.533 \pm 0.02
Koopman + Transformer (After ablation)	0.786 \pm 0.01	0.764 \pm 0.02
RNN (Raw ECG, baseline)	0.782 \pm 0.01	0.700 \pm 0.02

• 웨이브렛+트랜스포머는 이진 분류에서 강력한 성능을 보인다(F1 = 0.75).
• Koopman+트랜스포머는 4클래스 분류에서 우수하게 나타난다(F1 = 0.771 전 정제; 표의 제거 실험 후 0.764가 4클래스에 해당).
• Koopman+트랜스포머는 제거 후 이진 및 4클래스에서 가장 우수한 전체 성능을 달성한다(F1 = 0.786 이진; 0.764 4클래스).
• 하이브리드 웨이브렛+Koopman+트랜스포머는 단일 특징 시스템에 비해 성능이 떨어진다(이진 F1 = 0.677; 4클래스 F1 = 0.533).
• RNN 기준선(원시 ECG)은 이진에서 경쟁력 있는 성능을 보이지만 계산 비용이 더 많이 들며; Koopman 및 웨이브렛 특징 방법은 선형적으로 확장되고 더 효율적이다.