[논문 리뷰] Heart Disease Detection using Vision-Based Transformer Models from ECG Images

Zeynep Hilal Kilimci, Mustafa Yalçın외 2명|arXiv (Cornell University)|2023. 10. 19.

ECG Monitoring and Analysis인용 수 4

한 줄 요약

이 논문은 심장병 진단을 위한 새로운 시각 기반 트랜스포머 프레임워크를 제안하며, ECG 이미지를 사용하여 Google-ViT, Microsoft-Beit, Swin-Tiny 모델을 활용한다. 이는 상태의 기준 분류 성능를 달성하였으며, 이러한 고급 시각 트랜스포머를 직접적으로 ECG 이미지 데이터에 적용한 최초의 연구이다.

ABSTRACT

Heart disease, also known as cardiovascular disease, is a prevalent and critical medical condition characterized by the impairment of the heart and blood vessels, leading to various complications such as coronary artery disease, heart failure, and myocardial infarction. The timely and accurate detection of heart disease is of paramount importance in clinical practice. Early identification of individuals at risk enables proactive interventions, preventive measures, and personalized treatment strategies to mitigate the progression of the disease and reduce adverse outcomes. In recent years, the field of heart disease detection has witnessed notable advancements due to the integration of sophisticated technologies and computational approaches. These include machine learning algorithms, data mining techniques, and predictive modeling frameworks that leverage vast amounts of clinical and physiological data to improve diagnostic accuracy and risk stratification. In this work, we propose to detect heart disease from ECG images using cutting-edge technologies, namely vision transformer models. These models are Google-Vit, Microsoft-Beit, and Swin-Tiny. To the best of our knowledge, this is the initial endeavor concentrating on the detection of heart diseases through image-based ECG data by employing cuttingedge technologies namely, transformer models. To demonstrate the contribution of the proposed framework, the performance of vision transformer models are compared with state-of-the-art studies. Experiment results show that the proposed framework exhibits remarkable classification results.

연구 동기 및 목표

• 비침습적이고 널리 이용 가능한 ECG 영상 데이터를 활용한 조기이고 정확한 심장병 진단의 필수적인 필요성을 해결하기 위해.
• 이전에 ECG 이미지에 적용되지 않은 시각 트랜스포머 모델의 잠재력을 탐색하여 자동 심장 진단을 위해.
• 최신 시각 트랜스포머(_google-ViT_, _Microsoft-Beit_, _Swin-Tiny_)의 성능을 ECG 이미지 기반 심장병 분류에 대해 평가하고 비교하기 위해.
• 트랜스포머 기반 ECG 이미지 분석을 위한 벤치마크를 수립하고, 기존 방법들보다 뛰어난 성능을 입증하기 위해.

제안 방법

• 원시 ECG 신호를 시각 트랜스포머 처리에 적합한 2차원 이미지 표현으로 변환하기 위해.
• ECG 이미지 데이터셋에 대해 사전 훈련된 세 가지 시각 트랜스포머 모델(Google-ViT, Microsoft-Beit, Swin-Tiny)을 미세조정하기 위해.
• 제한된 레이블이 있는 데이터로 심장 분류 작업에 시각 트랜스포머를 적응시키기 위해 전이 학습을 활용하기 위해.
• 모델의 일반화 능력과 강건성을 향상시키기 위해 표준 데이터 증강 및 정규화 기법을 적용하기 위해.
• 과적합을 방지하기 위해 표준 교차 엔트로피 손실 함수와 조기 정지 기법을 사용하여 모델을 훈련하고 검증하기 위해.
• 보류된 테스트 세트에서 정확도, 정밀도, 재현율, F1 점수와 같은 표준 지표를 사용하여 모델 성능을 평가하기 위해.

실험 결과

연구 질문

• RQ1 사전 훈련된 의료 ECG 데이터에 대해 미세조정된 시각 트랜스포머 모델이 ECG 이미지에서 심장병을 효과적으로 분류할 수 있는가?
• RQ2 Google-ViT, Microsoft-Beit, Swin-Tiny와 같은 시각 트랜스포머의 성능가 기존의 최고 수준의 방법들에 비해 ECG 기반 심장병 진단에서 어떻게 비교되는가?
• RQ3 시각 트랜스포머의 자기주의 메커니즘이 복잡한 공간 패턴을 ECG 이미지에서 포착하는 데 기여하는 정도는 어떠한가?
• RQ4 시각 트랜스포머가 다양한 ECG 신호 패턴과 병변에 대해 얼마나 일반화되는가?
• RQ5 전통적인 심장병 분야의 딥러닝 모델들에 비해 시각 트랜스포머가 ECG 이미지에서 더 높은 분류 정확도를 달성할 수 있는가?

주요 결과

• 제안된 시각 트랜스포머 프레임워크는 ECG 이미지 기반 심장병 진단에서 최고 수준의 분류 성능를 달성하였다.
• 평가된 모델들 중에서 Google-ViT가 테스트 세트에서 가장 높은 정확도를 보이며 Microsoft-Beit과 Swin-Tiny를 모두 앞섰다.
• 이전의 최고 수준의 방법들에 비해 시각 트랜스포머의 사용이 ECG 기반 심장 진단에서 분류 성능을 크게 향상시켰다.
• 모델들은 다양한 ECG 패턴과 병변에서 높은 성능를 유지하며 강력한 일반화 능력을 보였다.
• 시각 트랜스포머 내 자기주의 메커니즘의 통합은 ECG 이미지에서 장거리 종속성을 효과적으로 포착하여 진단 정밀도를 향상시켰다.
• 이 프레임워크는 시각 트랜스포머를 활용한 ECG 이미지 분석을 위한 새로운 벤치마크를 수립하였으며, 임상 심장병학 응용 분야에서의 잠재력을 입증하였다.