[논문 리뷰] Early Prediction of Sepsis From Clinical Data via Heterogeneous Event Aggregation

Luchen Liu, Haoxian Wu외 3명|arXiv (Cornell University)|2019. 12. 30.

Machine Learning in Healthcare참고 문헌 7인용 수 5

한 줄 요약

이 논문은 장기적인 임상 이벤트 시계열을 단순화하기 위해 다양한 임상 이벤트(범주형 및 수치형)를 다중 헤드 표현으로 묶은 이질적 이벤트 집계 모델을 제안한다. 이후 LSTM을 사용하여 시간적 상호작용을 포착한다. 이 방법은 EHR 데이터에서 조기 패혈증 탐지 성능을 향상시켜 PhysioNet 2019 패혈증 예측 도전 대회에서 유틸리티 점수 0.321을 기록하였다.

ABSTRACT

Sepsis is a life-threatening condition that seriously endangers millions of people over the world. Hopefully, with the widespread availability of electronic health records (EHR), predictive models that can effectively deal with clinical sequential data increase the possibility to predict sepsis and take early preventive treatment. However, the early prediction is challenging because patients’ sequential data in EHR contains temporal interactions of multiple clinical events. And capturing temporal interactions in the long event sequence is hard for traditional LSTM. Rather than directly applying the LSTM model to the event sequences, our proposed model firstly aggregates heterogeneous clinical events in a short period and then captures temporal interactions of the aggregated representations with LSTM. Our proposed Heterogeneous Event Aggregation can not only shorten the length of clinical event sequence but also help to retain temporal interactions of both categorical and numerical features of clinical events in the multiple heads of the aggregation representations. In the PhysioNet/Computing in Cardiology Challenge 2019 [1], with the team named PKU_DLIB, our proposed model, in high efficiency, achieved utility score (0.321) in the full test set.

연구 동기 및 목표

• 전자 건강 기록(EHR)에 포함된 복잡하고 순차적인 임상 이벤트를 활용하여 조기 패혈증 예측의 과제를 해결한다.
• 이질적인 임상 이벤트 시계열에서 장기적인 시간적 의존성을 포착하는 데 있어 표준 LSTM 모델의 한계를 극복한다.
• 범주형 및 수치형 모두의 다양한 임상 이벤트를 압축된 다중 헤드 표현으로 집계하여 예측 성능을 향상시킨다.
• 시계열 길이를 단축하면서도 임상적으로 관련 있는 시간적 동역학을 유지함으로써 모델의 효율성과 표현 품질을 향상시킨다.

제안 방법

• 짧은 시간 창 내에서 다양한 임상 이벤트(예: 검사 결과, 생명 징후, 진단)를 통합된 표현으로 집계한다.
• 집계 과정에서 범주형 및 수치형 특징을 별도로 인코딩하기 위해 다중 어텐션 헤드를 사용하여 각 특징의 고유한 특성을 유지한다.
• 집계된 표현에 공통된 LSTM 네트워크를 적용하여 시간 창 간의 시간적 의존성을 모델링한다.
• 집계된 이벤트 표현과 시간 모델링을 결합하여 EHR 데이터에서 장기 시계열 학습을 향상시킨다.
• 시계열 EHR 데이터를 기반으로 엔드 투 엔드 모델을 훈련시켜 높은 시간 정밀도로 패혈증 발병을 예측한다.
• PhysioNet 2019 패혈증 예측 도전 대회 평가 지표(유틸리티 점수)를 사용하여 모델을 최적화한다.

실험 결과

연구 질문

• RQ1 다중 헤드 표현으로 이질적인 임상 이벤트를 집계함으로써 EHR 시계열의 시간 모델링이 패혈증 예측에 향상되는가?
• RQ2 집계를 통해 임상 이벤트 시계열의 길이를 단축함으로써 조기 패혈증 탐지에 대한 예측 성능이 유지되거나 향상되는가?
• RQ3 표준 LSTM 모델에 비해 제안된 방법이 순차적 EHR 데이터에서 장기적인 시간적 상호작용을 얼마나 잘 포착하는가?
• RQ4 별도의 어텐션 헤드에서 범주형 및 수치형 특징의 상호작용을 유지함으로써 모델의 일반화 능력과 정확도가 얼마나 향상되는가?

주요 결과

• 제안된 이질적 이벤트 집계 모델은 PhysioNet 2019 패혈증 예측 도전 대회의 전체 테스트 세트에서 유틸리티 점수 0.321을 기록하였다.
• 이벤트를 압축된 표현으로 집계함으로써 입력 시계열 길이가 크게 단축되어 계산 효율성이 향상되었다.
• 다중 헤드 집계 전략이 범주형 및 수치형 임상 특징 간의 시간적 상호작용을 효과적으로 유지하였다.
• 순차적 EHR 데이터에서 장거리 의존성을 포착하는 데 있어 표준 LSTM 접근법보다 모델 성능이 뛰어났다.
• 높은 효율성과 뛰어난 예측 성능를 보여 실시간 임상 적용에 적합함을 입증하였다.
• 구조화된 이질적 이벤트 집계가 EHR 기반 패혈증 예측에서 시간 모델링을 향상시킨다는 것이 결과적으로 확인되었다.