[논문 리뷰] Generalization Studies of Neural Network Models for Cardiac Disease Detection Using Limited Channel ECG

Deepta Rajan, David Beymer외 1명|arXiv (Cornell University)|2019. 01. 05.

ECG Monitoring and Analysis참고 문헌 9인용 수 5

한 줄 요약

이 논문은 한정된 리드 ECG를 사용한 심장병 진단에서 일반화 능력을 향상시키기 위해 비지도 생성 모델링과 분류적 1D ResNet을 융합한 하이브리드 딥러닝 모델인 ResNet++을 제안한다. 전체 12리드 ECG 데이터로부터 잠재 표현을 학습하여 누락된 리드를 복원함으로써, ResNet++은 표준 ResNet에 비해 미리 보지 않은 심장병 상태에서 2–11% 높은 F1 점수를 기록한다. 이는 소규모이고 불균형한 데이터셋을 사용할 때조차도 성립한다.

ABSTRACT

Acceleration of machine learning research in healthcare is challenged by lack of large annotated and balanced datasets. Furthermore, dealing with measurement inaccuracies and exploiting unsupervised data are considered to be central to improving existing solutions. In particular, a primary objective in predictive modeling is to generalize well to both unseen variations within the observed classes, and unseen classes. In this work, we consider such a challenging problem in machine learning driven diagnosis: detecting a gamut of cardiovascular conditions (e.g. infarction, dysrhythmia etc.) from limited channel ECG measurements. Though deep neural networks have achieved unprecedented success in predictive modeling, they rely solely on discriminative models that can generalize poorly to unseen classes. We argue that unsupervised learning can be utilized to construct effective latent spaces that facilitate better generalization. This work extensively compares the generalization of our proposed approach against a state-of-the-art deep learning solution. Our results show significant improvements in F1-scores.

연구 동기 및 목표

• 소규모이고 불균형한 데이터셋과 한정된 ECG 리드로 훈련되었을 때 심장병 진단을 위한 딥러닝 모델의 일반화 능력이 떨어지는 문제를 해결한다.
• 저데이터 환경에서 분포 외 샘플에 대한 모델의 강건성 향상과 하이퍼파라미터 튜닝에 대한 민감도 감소를 목표로 한다.
• 비지도 표현 학습을 통해 1–3개 리드만으로도 전체 12리드 ECG 패턴을 효과적으로 추론할 수 있도록 한다.
• 생성 모델링과 분류 기반 분류의 융합이 훈련 클래스 외 다양한 심장병 병변에 대한 일반화 능력을 향상시킨다는 것을 입증한다.

제안 방법

• 전체 12리드 ECG 신호에서 압축된 잠재 표현을 학습하기 위해 GRU 레이어를 사용하는 시퀀스-투-시퀀스(SEQ2SEQ) 오토인코더를 사용하여 누락된 리드를 재구성한다.
• 완전한 리드 ECG 데이터에서 비지도 생성 모델을 훈련하여 정상 및 비정상 ECG 패턴의 구조를 암묵적으로 학습한다.
• ECG 리드 간에 의미 있는 공유 특징을 인코딩하는 잠재 공간을 구성하여, 새로운 채널 구성에 대한 효과적인 일반화를 가능하게 한다.
• 1D ResNet(7개의 합성곱 레이어 포함)을 사용하여 학습된 잠재 특징를 미세조정함으로써, 한정된 리드 입력에 대한 종합적인 질병 분류를 수행한다.
• 라벨이 없는 전체 리드 ECG 데이터를 사전 훈련 단계에서 활용하여 수동 레이블링이 필요 없이 표현 품질을 향상시킨다.
• 분류 헤드 훈련을 위해 Adam 옵timizer와 배치 크기 32를 사용한 분류 교차 엔트로피 손실 함수를 적용한다.

실험 결과

연구 질문

• RQ1 한정된 ECG 리드만 존재할 때 비지도 생성 모델링이 심장병 진단을 위한 딥러닝 모델의 일반화 능력을 향상시킬 수 있는가?
• RQ2 제안된 ResNet++ 모델은 표준 ResNet에 비해 분포 외 심장병 상태(예: 전벽 심근경색, 브라운드 블록, 부정맥)에서 어떻게 성능을 내는가?
• RQ3 라벨이 없는 전체 리드 ECG 데이터에서의 사전 훈련이 모델의 강건성 향상과 하이퍼파라미터 설정에 대한 민감도 감소에 얼마나 기여하는가?
• RQ4 리드 간에 공유되는 잠재 공간을 학습함으로써 모델이 누락된 리드 정보를 복원하고 다양한 심장병 병변에 대한 일반화 능력을 향상시킬 수 있는가?

주요 결과

• ResNet++는 전벽 심근경색, 후벽 심근경색, 브랜치 블록, 부정맥과 같은 미리 보지 않은 심장병 상태로 일반화할 때 F1 점수에서 2–11% 향상된 성능을 기록했다.
• 모델는 분포 외 샘플에 대해 뚜렷한 강건성을 보였으며, 훈련 세트에 포함되지 않은 질병으로 테스트했을 때도 높은 성능 유지를 유지했다.
• ResNet++는 특히 소규모이고 불균형한 데이터 환경에서 하이퍼파라미터 설정에 대한 민감도가 낮아 보였다.
• 비지도 사전 훈련 단계는 라벨이 없는 전체 리드 ECG 데이터를 효과적으로 활용하여 의미 있는 잠재 공간을 구축함으로써 후속 분류 성능을 향상시켰다.
• 잠재 표현은 누락된 ECG 리드의 암묵적 복원을 가능하게 하여, 3개 리드만으로도 전체 12리드 패턴을 추론할 수 있도록 했다.
• PhysioNet PTB 데이터셋에서 ResNet++는 모든 평가 지표에서 표준 ResNet을 능가했으며, 특히 소수의 질병 클래스에 대한 재현율과 F1 점수에서 뛰어난 성능을 보였다.