[논문 리뷰] Guiding Masked Representation Learning to Capture Spatio-Temporal Relationship of Electrocardiogram

Yeongyeon Na, Minje Park외 2명|arXiv (Cornell University)|2024. 02. 02.

ECG Monitoring and AnalysisMedicine인용 수 3

한 줄 요약

이 논문은 12 leads ECG 데이터의 시공간 패치를 복원함으로써 일반적인 심전도(ECG) 표현을 학습하는 자기지도 학습 마스크된 오토인코더 프레임워크인 ST-MEM을 제안한다. 패치화와 마스크된 복원을 통해 시간적 및 공간적 관계를 동시에 모델링함으로써, ST-MEM은 심 arrhythmia 분류에서 최신 기술 수준의 성능을 달성하였으며, 대비 및 생성적 SSL 기준보다 뛰어나며, 감소된 리드 및 자원이 제한된 환경에서도 효과적으로 일반화된다.

ABSTRACT

Electrocardiograms (ECG) are widely employed as a diagnostic tool for monitoring electrical signals originating from a heart. Recent machine learning research efforts have focused on the application of screening various diseases using ECG signals. However, adapting to the application of screening disease is challenging in that labeled ECG data are limited. Achieving general representation through self-supervised learning (SSL) is a well-known approach to overcome the scarcity of labeled data; however, a naive application of SSL to ECG data, without considering the spatial-temporal relationships inherent in ECG signals, may yield suboptimal results. In this paper, we introduce ST-MEM (Spatio-Temporal Masked Electrocardiogram Modeling), designed to learn spatio-temporal features by reconstructing masked 12-lead ECG data. ST-MEM outperforms other SSL baseline methods in various experimental settings for arrhythmia classification tasks. Moreover, we demonstrate that ST-MEM is adaptable to various lead combinations. Through quantitative and qualitative analysis, we show a spatio-temporal relationship within ECG data. Our code is available at https://github.com/bakqui/ST-MEM.

연구 동기 및 목표

• 다양한 심장 질환 탐지 모델을 훈련시키는 데 있어 레이블이 부족한 ECG 데이터 문제를 해결하기 위해.
• 12-리드 ECG 신호에 내재된 시간적 및 공간적 관계를 명시적으로 모델링하여 심전도에서 자기지도 표현 학습을 향상시키기 위해.
• 감소된 리드 구성, 예를 들어 감소된 리드 및 단일 리드 ECG를 포함한 다양한 리드 구성에 대해 효과적으로 일반화할 수 있는 유연한 프레임워크를 개발하기 위해.
• 학습된 표현이 의미 있는 시공간 패턴을 캡처하고 있음을 정량적 및 정성적 분석을 통해 입증하기 위해.

제안 방법

• 12-리드 ECG 신호에 시공간 패치화를 적용하여 모델 입력을 위한 시간적 및 공간적 패치로 나누어진다.
• 마스크된 오토인코더(MAE) 아키텍처를 사용하며, 사전 훈련 중 60%의 패치가 무작위로 마스크되고 공유 디코더와 학습 가능한 리드 임베딩을 사용하여 복원된다.
• 동적 및 해부학적 의존성을 캡처하기 위해 별도의 시간적 및 공간적 어텐션 메커니즘을 갖춘 이중 브랜치 인코딩 전략을 적용한다.
• 재구성 과정에서 리드 간 공간적 관계를 유지하기 위해 리드별로 공유되는 디코더와 분리 임베딩을 도입한다.
• 사전 훈련은 200 에포크 동안 수행되며 고정된 학습률 0.001을 사용하고, 원본 및 재구성된 신호 간 평균 제곱오차를 최소화한다.
• 하류 분류 작업에서의 피지컬 훈련은 30 에포크 동안 교차 엔트로피 손실을 사용하고 고정된 학습률 0.001을 적용한다.

실험 결과

연구 질문

• RQ1 12-리드 ECG 데이터의 시간적 및 공간적 의존성을 모두 캡처함으로써 마스크된 오토인코더 프레임워크가 일반적인 ECG 표현을 효과적으로 학습할 수 있는가?
• RQ2 표준 및 자원이 제한된 설정에서 ST-MEM이 대비 및 생성적 SSL 기준보다 심 arrhythmia 분류 성능에서 어떻게 성과를 내는가?
• RQ3 ST-MEM이 예를 들어 사지 리드 또는 단일 리드 기록과 같은 감소된 리드 구성으로 얼마나 잘 일반화되는가?
• RQ4 학습된 표현이 ECG 신호의 의미 있는 시공간 관계를 캡처하고 있음을 뒷받침하는 증거는 무엇인가?

주요 결과

• ST-MEM은 CPSC2018에서 1% 훈련 데이터 조건에서 AUROC 0.897 ± 0.025, PTB-XL에서 0.815 ± 0.012를 기록하여 CPC 및 MLAE를 포함한 모든 재현된 기준보다 뛰어난 성능을 보였다.
• 인간 활동 인식(HAR) 벤치마크에서 ST-MEM은 98.4% F1 스코어를 기록하여 일반적인 多변량 시간 시리즈 작업으로의 강력한 전이 가능성을 보였다.
• 단지 1%의 훈련 데이터만을 사용하는 자원이 제한된 설정에서도 ST-MEM은 우수한 성능을 유지하였으며, PTB-XL에서 0.815 AUROC, CPSC2018에서 0.897 AUROC를 기록하였다.
• 정성적 분석을 통해 모델이 의미 있는 ECG 형태를 재구성하는 것을 확인하였으며, 이는 시공간 패턴을 효과적으로 캡처하고 있음을 시사한다.
• ST-MEM은 감소된 리드 구성으로도 효과적으로 일반화되며, 사지 리드 또는 단일 리드에서 피지컬 훈련을 거친 후에도 높은 성능를 유지한다.
• 어떤 설정에서는 감독 학습과 유사한 성능를 기록함으로써, 자기지도 사전 훈련을 통한 강력한 일반화 능력을 보여준다.