[논문 리뷰] Integrating Physiological Time Series and Clinical Notes with Transformer for Early Prediction of Sepsis

Yuqing Wang, Yun Zhao외 2명|arXiv (Cornell University)|2022. 03. 28.

Machine Learning in Healthcare인용 수 6

한 줄 요약

이 논문은 ICU 입원 후 36시간 이내에 조기 패혈증을 예측하기 위해 多중적 생리 시계열과 임상 노트를 통합하는 다중모odal Transformer 모델을 제안한다. 임상노트는 ClinicalBERT를 통해, 생리적 데이터는 시계열 인코더를 통해 처리되며, MIMIC-III 및 eICU-CRD에서 최신 기술 수준의 성능을 달성하여 모든 지표에서 6개의 베이스라인을 능가한다. eICU-CRD에서 36시간 시점의 AUROC는 0.882이다.

ABSTRACT

Sepsis is a leading cause of death in the Intensive Care Units (ICU). Early detection of sepsis is critical for patient survival. In this paper, we propose a multimodal Transformer model for early sepsis prediction, using the physiological time series data and clinical notes for each patient within $36$ hours of ICU admission. Specifically, we aim to predict sepsis using only the first 12, 18, 24, 30 and 36 hours of laboratory measurements, vital signs, patient demographics, and clinical notes. We evaluate our model on two large critical care datasets: MIMIC-III and eICU-CRD. The proposed method is compared with six baselines. In addition, ablation analysis and case studies are conducted to study the influence of each individual component of the model and the contribution of each data modality for early sepsis prediction. Experimental results demonstrate the effectiveness of our method, which outperforms competitive baselines on all metrics.

연구 동기 및 목표

• 이국적 전자의료기록(EHR) 데이터 모odal — 생리 시계열과 비정형 임상 노트를 통합하여 ICU 내 조기 패혈증 예측을 향상시키기 위해.
• 단일 모달 접근법에서의 데이터 이질성과 누락 정보 문제를 해결하기 위해.
• 시간적 동역학과 임상적 맥락을 동시에 포착하는 통합된 딥 러닝 프레임워크를 개발하기 위해.
• 실제 중환자 치료 데이터셋에서 단일 모달 및 다중 모달 베이스라인에 비해 모델의 우수성을 검증하기 위해.
• 임상 노트의 주의 메커니즘 분석과 생리적 데이터의 특징 분포를 통해 해석 가능성 향상하기 위해.

제안 방법

• 다중모달 Transformer 인코더는 별도의 인코더를 사용하여 다변량 생리 시계열(MPTS)과 임상 노트를 모두 처리한다.
• 생리 시계열은 학습 가능한 위치 인코딩을 통해 임bedding되며, 피드포워드 네트워크를 통해 시간 패턴을 유지한다.
• 임상 노트는 의료진 및 간호사 노트에서 맥락 인식 표현을 포착하는 데 최적화된 Fine-tuned ClinicalBERT를 사용하여 인코딩된다.
• 크로스 어텐션 메커니즘을 통해 모달 간 관련 정보에 주의를 기울이며, 임상 맥락과 생리적 추세의 융합을 가능하게 한다.
• 최종 표현은 풀링되어 분류기 헤드를 거쳐 ICU 입원 후 12~36시간 이내의 패혈증 상태를 예측한다.
• 클래스 불균형 문제를 해결하기 위해 클래스 가중치를 적용한 이진 교차 엔트로피 손실을 사용하여 MIMIC-III 및 eICU-CRD에서 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 다중모달 Transformer 모델이 생리 시계열과 임상 노트를 효과적으로 통합하여 조기 패혈증 예측을 향상시킬 수 있는가?
• RQ2 생리 데이터와 임상 노트의 개별 기여도는 예측 성능 측면에서 어떻게 비교되는가?
• RQ3 단일 모달 베이스라인 대비 모달 융합이 모델 성능에 미치는 영향은 어떠한가?
• RQ4 임상 노트의 주의 메커니즘이 패혈증 결과와 관련된 임상적으로 의미 있는 패턴을 어떻게 반영하는가?
• RQ5 어떤 특별한 생리적 특징들이 패혈증 환자와 비패혈증 환자를 구분하며, 예측에 어떻게 기여하는가?

주요 결과

• 제안된 다중모달 모델(P-TSM + CNM)은 eICU-CRD 데이터셋에서 36시간 시점에 AUROC 0.882 ± 0.004를 달성하여 모든 6개의 베이스라인을 능가했다.
• eICU-CRD에서 36시간 시점에 F1 스코어 0.857 ± 0.003를 기록하여 높은 정밀도와 재현율의 균형을 보였다.
• 제거 실험 결과, 생리적 및 임상 모달 간에 고유하고 겹치지 않는 정보가 존재하며, 두 모달을 융합할 경우 성능 향상이 이루어짐을 확인했다.
• 주의 시각화 결과, 패혈증 환자에서 "very painful" 및 "back pain"과 같은 해석 가능한 패혈증 관련 키워드가 임상 노트에 존재하는 것으로 나타났으며, 반면 "stable" 및 "great condition"는 비패혈증을 시사하는 것으로 확인되었다.
• 생리적 특징의 밀도도 그래프 분석 결과, 패혈증 환자와 비패혈증 환자 간에 뚜렷한 분포 차이가 있었으며, 일부 특징(예: 락트산, MAP)은 매우 구분력이 높았고 노트에는 반영되지 않았다.
• 단일 모달 모델이 잘못 분류한 환자들을 정확히 분류하는 등, 다중모달 융합이 복잡하고 상보적인 신호를 포착하는 데서 가치가 있음을 입증했다.