[논문 리뷰] ECGformer: Leveraging transformer for ECG heartbeat arrhythmia classification

Taymaz Akan, Sait Alp외 1명|arXiv (Cornell University)|2024. 01. 06.

ECG Monitoring and Analysis인용 수 4

한 줄 요약

ECGformer는 자기주의 주의 메커니즘을 활용하여 ECG 신호 내 장거리 의존성을 포착하는 트랜스포머 기반 딥러닝 모델을 제안한다. MIT-BIH 및 PTB 데이터셋에서 평가된 결과, 다양한 부정맥 유형에 걸쳐 뛰어난 분류 정확도와 강건성을 보이며 최신 기술 수준의 성능을 달성한다.

ABSTRACT

An arrhythmia, also known as a dysrhythmia, refers to an irregular heartbeat. There are various types of arrhythmias that can originate from different areas of the heart, resulting in either a rapid, slow, or irregular heartbeat. An electrocardiogram (ECG) is a vital diagnostic tool used to detect heart irregularities and abnormalities, allowing experts to analyze the heart's electrical signals to identify intricate patterns and deviations from the norm. Over the past few decades, numerous studies have been conducted to develop automated methods for classifying heartbeats based on ECG data. In recent years, deep learning has demonstrated exceptional capabilities in tackling various medical challenges, particularly with transformers as a model architecture for sequence processing. By leveraging the transformers, we developed the ECGformer model for the classification of various arrhythmias present in electrocardiogram data. We assessed the suggested approach using the MIT-BIH and PTB datasets. ECG heartbeat arrhythmia classification results show that the proposed method is highly effective.

연구 동기 및 목표

• ECG 신호를 이용하여 부정맥 분류 정확도를 향상시키는 딥러닝 모델을 개발하는 것.
• 트랜스포머의 자기주의 주의 메커니즘을 활용하여 ECG 데이터에서 효과적인 시퀀스 모델링을 수행하는 것.
• 표준 기준 데이터셋인 MIT-BIH 및 PTB에서 모델의 성능을 평가하는 것.
• 기존 방법에 비해 트랜스포머 기반 아키텍처가 ECG 부정맥 탐지에서 우월함을 입증하는 것.
• 임상 환경에서 자동 ECG 해석을 위한 강건하고 일반화 능력이 뛰어난 솔루션을 제공하는 것.

제안 방법

• ECGformer 모델은 원시 ECG 신호 시퀀스를 처리하기 위해 표준 트랜스포머 인코더 아키텍처를 사용한다.
• 입력 ECG 베이트는 시간 순서와 신호 특성을 유지하기 위해 학습 가능한 위치 임베딩과 토큰 임베딩을 사용하여 임베딩된다.
• 다중 헤드 자기주의 주의 레이어는 ECG 웨이브폼 전역에서 장거리 의존성과 복잡한 패턴을 포착하는 데 사용된다.
• 주로 주의 계산 후 표현을 개선하기 위해 잔차 연결이 있는 피드포워드 네트워크가 사용된다.
• 최종 분류 헤드는 학습된 표현에서 부정맥 유형을 예측하기 위해 소프트맥스 레이어를 적용한다.
• 모델는 다중 클래스 부정맥 레이블에서 교차 엔트로피 손실을 사용하여 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 트랜스포머 기반 아키텍처가 기존의 딥러닝 모델보다 ECG 심장 박동 부정맥 분류에서 뛰어난 성능을 보일 수 있는가?
• RQ2 자기주의 주의 메커니즘이 짧은 ECG 세그먼트에서 특징적인 특징을 효과적으로 포착할 수 있는가?
• RQ3 ECGformer의 성능은 MIT-BIH 및 PTB와 같은 널리 사용되는 기준 데이터셋에서 어떻게 나타나는가?
• RQ4 모델은 희귀하거나 복잡한 패턴을 포함한 다양한 부정맥 유형에 대해 얼마나 강건한가?
• RQ5 주의 메커니즘이 임상적으로 관련 있는 ECG 특징과 일치하는 해석 가능한 주의 맵을 제공하는가?

주요 결과

• ECGformer는 MIT-BIH 부정맥 데이터셋에서 높은 분류 정확도를 달성하여 기존 최신 기술 수준의 모델을 능가한다.
• 모델는 PTB 진단 ECG 데이터셋에서도 강력한 일반화 성능을 보이며 다양한 ECG 기록에 걸쳐 강건성을 입증한다.
• 자기주의 주의 메커니즘이 ECG 신호 내 장거리 시간적 의존성을 효과적으로 포착하여 특징 표현을 향상시킨다.
• 희귀 유형인 LBBB 및 RBBB를 포함한 여러 부정맥 클래스에서 높은 정밀도와 재현율을 유지한다.
• 제거 실험을 통해 트랜스포머 아키텍처가 CNN 기반 베이스라인에 비해 성능 향상에 크게 기여하는 것으로 확인된다.
• ECGformer가 생성한 주의 맵은 임상적으로 관련 있는 ECG 간격을 강조하며, 설명 가능성 및 진단 검증 가능성을 시사한다.