[논문 리뷰] 3KG: Contrastive Learning of 12-Lead Electrocardiograms using Physiologically-Inspired Augmentations

Bryan Gopal, Ryan Han외 4명|arXiv (Cornell University)|2021. 04. 21.

ECG Monitoring and Analysis인용 수 13

한 줄 요약

3KG는 12-lead ECG에 대해 심장 전기 활동의 3차원 공간적 및 시간적 변형을 벡터심전도(VCG) 공간에서 적용하여 양성 시각을 생성하는 생리학적으로 영감을 받은 대비 학습 프레임워크를 제안한다. 이는 표현 학습을 향상시키며, PhysioNet 2020 데이터셋의 레이블이 1%인 데이터로 미세조정했을 때 기존 최고의 자기지도 학습 기반 모델 대비 평균 AUC에서 9.1% 상대적 향상을 이룬다.

ABSTRACT

We propose 3KG, a physiologically-inspired contrastive learning approach that generates views using 3D augmentations of the 12-lead electrocardiogram. We evaluate representation quality by fine-tuning a linear layer for the downstream task of 23-class diagnosis on the PhysioNet 2020 challenge training data and find that 3KG achieves a $9.1\\%$ increase in mean AUC over the best self-supervised baseline when trained on $1\\%$ of labeled data. Our empirical analysis shows that combining spatial and temporal augmentations produces the strongest representations. In addition, we investigate the effect of this physiologically-inspired pretraining on downstream performance on different disease subgroups and find that 3KG makes the greatest gains for conduction and rhythm abnormalities. Our method allows for flexibility in incorporating other self-supervised strategies and highlights the potential for similar modality-specific augmentations for other biomedical signals.

연구 동기 및 목표

• ECG 진단의 레이블 효율성을 향상시키기 위해 ECG의 공간-시간적 구조를 활용하는 자기지도 학습 기반 대비 학습 방법을 개발한다.
• 데이터 증강에 생리학적 제약 조건을 통합할 경우, 제한된 레이블 데이터에서 후행 진단 성능이 향상되는지 조사한다.
• 공간적, 시간적, 그리고 그 조합의 다양한 증강 전략이 ECG 분석을 위한 표현 품질에 미치는 영향을 평가한다.
• 생리학적으로 기반을 둔 시각을 사용한 사전학습이 다양한 ECG 이상 유형 하위군에서 성능에 미치는 영향을 분석한다.
• 자기지도 학습과 완전히 지도 학습 모델 간의 성능 격차를 모odal 특화 증강을 통한 대비 학습으로 해소할 수 있음을 보여준다.

제안 방법

• 방법은 심장 전기 활동을 세 직교 축에 따라 나타내는 벡터심전도(VCG) 공간에서 무작위 3D 공간적 증강(회전, 스케일링, 시간 마스킹)을 적용하여 양성 시각을 생성한다.
• 12-lead ECG의 VCG 표현에 공간적 증강을 적용한 후, 리커스팅된 ECG 공간으로의 투영을 통해 리드 구조를 유지하고 증강된 ECG 시각을 생성한다.
• 재구성된 ECG 신호에 시간 마스킹과 같은 시간적 증강을 적용하여 더 다양화된 양성 시각을 확보한다.
• 리드들은 독립적으로 인코딩되며, 동일한 환자에서 유래한 경우 공간적 관계를 유지하면서 양성 쌍으로 간주된다.
• 대비 학습 목표는 양성 쌍 간의 대비 손실을 최소화하고 음성 쌍 간의 손실을 최대화하며, 안정성을 확보하기 위해 모멘터리 엔코더를 사용한다.
• 최종 모델은 PhysioNet 2020 챌린지 데이터셋을 사용하여 후행 23종류의 부정맥 진단 작업에 선형 헤드를 적용해 미세조정된다.

실험 결과

연구 질문

• RQ1 생리학적으로 영감을 받은 3D 공간적 및 시간적 증강을 대비 학습에 통합할 경우, 12-lead ECG에 대한 표현 품질이 향상되는가?
• RQ2 공간적 및 시간적 증강의 조합이 개별 증강 유형 대비 후행 성능에서 어떻게 비교되는가?
• RQ3 생리학적으로 기반을 둔 시각을 사용한 사전학습이 특정 ECG 이상 하위군(예: 전도 또는 리듬 장애)에서 더 큰 성능 향상을 가져오는가?
• RQ4 레이블 데이터가 1%뿐일 경우 3KG의 성능가 기존 자기지도 학습 및 지도 학습 기반 모델과 비교해 어떻게 되는가?
• RQ5 증강 강도와 조합이 학습된 표현의 품질에 어떤 영향을 미치는가?

주요 결과

• 3KG는 레이블이 1%인 데이터 분할에서 평균 AUROC 0.826을 달성하였으며, 이는 기존 최고의 자기지도 학습 기반 모델(0.757 AUROC) 대비 9.1% 상대적 향상이다.
• 자기지도 학습과 완전히 지도 학습 간의 성능 격차를 줄였으며, 3KG는 레이블이 1%일 때 완전히 지도 학습의 91.9% 성능(0.898 AUROC)을 달성하였다.
• 공간적 및 시간적 증강을 조합하면 개별 증강 유형이나 각각의 사용보다 더 강력한 표현을 얻었으며, 이는 가장 우수한 성능을 기록하였다.
• 3KG는 전도 이상(평균 AUROC 향상 = 0.22)과 리듬 이상(평균 AUROC 향상 = 0.17)에서 가장 큰 성능 향상을 보였으며, 파형 이상에서는 더 작은 향상을 보였다.
• 강도가 높은 공간적 증강은 더 나은 표현을 이끌어내며, 중간 수준의 증강 강도에서 성능이 최고에 도달하고 가장 높은 값에서는 약간 감소하는 경향을 보였지만, 테스트 범위 내에서 회전 증강에 대해서는 감소 경향을 관찰하지 못했다.
• 생리학적 인덕티브 바이어스를 데이터 증강을 통해 통합할 경우 일반화 능력이 크게 향상되며, 특히 임상적으로 중요한 부정맥 유형에서 두드러진다.