[논문 리뷰] Patient Contrastive Learning: a Performant, Expressive, and Practical Approach to ECG Modeling

Nathaniel Diamant, Erik Reinertsen외 4명|arXiv (Cornell University)|2021. 04. 09.

ECG Monitoring and Analysis참고 문헌 20인용 수 7

한 줄 요약

이 논문은 환자 간의 시간에 따른 ECG를 정렬함으로써 표현력 있고 성능이 뛰어나며 실용적인 ECG 표현을 학습하는 자기지도 학습 대비 학습 방법인 환자 대비 표현 학습(PCLR)을 소개한다. 320만 개의 레이블이 없는 12 leads ECG로 훈련된 PCLR는 라벨이 5,000개 미만일 때조차도 후행 임상 과제에서 뛰어난 성능을 보이며, 수작업으로 만든 특징과 리듬 분류를 위해 사전 훈련된 모델을 모두 능가한다.

ABSTRACT

Supervised machine learning applications in health care are often limited due to a scarcity of labeled training data. To mitigate this effect of small sample size, we introduce a pre-training approach, Patient Contrastive Learning of Representations (PCLR), which creates latent representations of ECGs from a large number of unlabeled examples. The resulting representations are expressive, performant, and practical across a wide spectrum of clinical tasks. We develop PCLR using a large health care system with over 3.2 million 12-lead ECGs, and demonstrate substantial improvements across multiple new tasks when there are fewer than 5,000 labels. We release our model to extract ECG representations at https://github.com/broadinstitute/ml4h/tree/master/model_zoo/PCLR.

연구 동기 및 목표

• 갑작스러운 심장 정지와 같은 희귀 질환에 대해 레이블이 부족한 문제를 해결한다.
• 딥러닝 전문 지식이 없는 임상 연구자들이도 사용할 수 있도록 성능 뿐 아니라 표현력과 실용성까지 확보한 사전 훈련 방법을 개발한다.
• 다양한 임상 과제에서 성능 향상을 이끌어내는 일반 목적의 12-lead ECG 표현 학습 프레임워크를 구축한다.
• 환자 중심의 대비 학습이 질병 특이적 사전 훈련 및 수작업으로 만든 ECG 특징보다 우수한 성능을 보이는가를 입증한다.

제안 방법

• PCLR는 SimCLR에 영감을 받은 대비 학습 프레임워크를 사용하지만, 데이터 증강이 아닌 환자 신원을 중심으로 재정의한다.
• 양성 쌍은 동일한 환자에서 다른 시간에 확보한 ECG로 구성되며, 음성 쌍은 다른 환자로부터의 ECG로 구성된다.
• 모델은 동일한 환자로부터의 ECG가 유사하게 매핑되도록 잠재 공간을 학습함으로써 환자 고유의 생리적 패턴을 유지한다.
• 대비 손실 함수는 양성 쌍 간 유사도를 최대화하고 음성 쌍 간 유사도를 최소화하도록 표현 공간을 최적화한다.
• 320만 개의 레이블이 없는 ECG로 사전 훈련한 후, 선형 평가 헤드를 통해 특정 과제(예: 성별 분류, 좌심실 비대(LVH), 심방세동(AF), 연령 회귀)에 대해 미세조정한다.
• 최종 표현은 선형 모델과 직접 사용할 수 있도록 설계되어, 딥러닝 전문 지식이 없는 임상 연구자들에게도 쉽게 구현 가능하도록 한다.

실험 결과

연구 질문

• RQ1 데이터 증강이 아닌 환자 신원을 우선시하는 자기지도 대비 학습 접근법이 ECG 표현 학습에 효과적인가?
• RQ2 레이블이 부족한 후행 임상 과제에서 PCLR가 리듬 분류를 위해 사전 훈련된 모델과 비교해 어떻게 성능을 내는가?
• RQ3 PCLR 표현이 임상 예측 과제에서 전통적인 수작업으로 만든 ECG 특징보다 얼마나 뛰어나게 성능을 내는가?
• RQ4 낮은 데이터 환경(예: 저샷 학습)에서 PCLR는 완전히 새로 훈련하는 것과 다른 사전 훈련된 모델에 비해 어느 정도 효과적인가?

주요 결과

• 5,000개 미만의 레이블 예제가 존재할 때, PCLR는 성별 분류, 좌심실 비대 감지, 심방세동 분류, 연령 회귀의 네 가지 과제에서 모두 초기 훈련보다 뛰어난 성능을 보였다.
• 성별 분류에서의 성능 향상은 성별이 생리적 특성으로서 안정적이라는 점에서 기인한 것으로 보인다.
• PCLR 표현을 기반으로 훈련된 선형 모델은 표준 ECG 특징(예: 심박수, PR 간격, QRS 지속시간)을 기반으로 훈련된 모델보다 좌심실 비대 분류, 성별 분류, 연령 회귀 과제에서 유의미하게 뛰어난 성능을 보였다.
• PCLR는 좌심실 비대 및 성별 분류 과제에서 리버이루-R(Ribeiro-R)와 같은 리듬 분류를 위해 사전 훈련된 모델의 성능을 뛰어넘었으며, 이는 환자 중심 표현이 과업 특이적 표현보다 더 잘 일반화된다는 것을 시사한다.
• PCLR의 성능 향상은 데이터가 부족한 환경에서 가장 두드러지게 나타났으며, 이는 데이터가 부족한 임상 환경에서의 효과성을 입증한다.
• 공개된 PCLR 모델을 통해 임상 연구자들은 딥러닝 전문 지식 없이도 고품질의 ECG 표현을 추출할 수 있으며, 이는 광범위한 실용적 적용을 지원한다.