[논문 리뷰] MetaPred: Meta-Learning for Clinical Risk Prediction with Limited Patient Electronic Health Records

Xi Sheryl Zhang, Fengyi Tang외 3명|arXiv (Cornell University)|2019. 05. 08.

Machine Learning in Healthcare참고 문헌 36인용 수 8

한 줄 요약

MetaPred는 제한된 전자건강기록(EHR) 데이터를 사용하여 임상 위험 예측을 위한 모델에 종속되지 않는 메타학습 프레임워크를 제안한다. 여러 관련 임상 위험 예측 작업에서 메타학습자(메타-러닝 모델)를 사전 훈련함으로써, 적은 수의 레이블이 있는 샘플을 사용하여 저자원 대상 작업으로 빠르게 적응할 수 있도록 하며, MCI 및 알츠하이머병 예측에서 표준 딥러닝 모델보다 뛰어난 성능을 달성한다.

ABSTRACT

In recent years, increasingly augmentation of health data, such as patient Electronic Health Records (EHR), are becoming readily available. This provides an unprecedented opportunity for knowledge discovery and data mining algorithms to dig insights from them, which can, later on, be helpful to the improvement of the quality of care delivery. Predictive modeling of clinical risk, including in-hospital mortality, hospital readmission, chronic disease onset, condition exacerbation, etc., from patient EHR, is one of the health data analytic problems that attract most of the interests. The reason is not only because the problem is important in clinical settings, but also there are challenges working with EHR such as sparsity, irregularity, temporality, etc. Different from applications in other domains such as computer vision and natural language processing, the labeled data samples in medicine (patients) are relatively limited, which creates lots of troubles for effective predictive model learning, especially for complicated models such as deep learning. In this paper, we propose MetaPred, a meta-learning for clinical risk prediction from longitudinal patient EHRs. In particular, in order to predict the target risk where there are limited data samples, we train a meta-learner from a set of related risk prediction tasks which learns how a good predictor is learned. The meta-learned can then be directly used in target risk prediction, and the limited available samples can be used for further fine-tuning the model performance. The effectiveness of MetaPred is tested on a real patient EHR repository from Oregon Health & Science University. We are able to demonstrate that with CNN and RNN as base predictors, MetaPred can achieve much better performance for predicting target risk with low resources comparing with the predictor trained on the limited samples available for this risk.

연구 동기 및 목표

• 전자건강기록(EHR)에서 레이블이 부족한 상황에서 저자원 임상 위험 예측 문제를 해결한다.
• 임상 환경에서 효과적인 훈련을 위해 대량의 레이블 데이터가 필요한 전통적인 딥러닝 모델의 한계를 극복한다.
• 더 높은 자원을 보유한 관련 임상 위험 예측 작업에서의 지식을 활용하여 저자원 대상 작업의 성능을 향상시킨다.
• 최소한의 레이블 데이터로 새로운 임상 위험 예측 작업에 빠르게 적응할 수 있는 전이학습 프레임워크를 개발한다.
• 메타학습이 복잡하고 임상적으로 관련성이 높은 결과(예: 인지 기능 저하 및 사망률)를 예측하는 실제 EHR 데이터에서 효과적으로 작용하는지 입증한다.

제안 방법

• 예측 모델의 일반화 가능한 초기화를 학습하기 위해 다양한 관련 임상 위험 예측 작업(예: 다양한 인지장애)에서 메타학습자를 훈련한다.
• 소수의 예시로 새로운 작업에 빠르게 적응할 수 있도록 모델에 종속되지 않는 메타학습(MAML) 접근법을 사용한다.
• 종단간 EHR 시계열을 모델링하기 위해 컨볼루션 신경망(CNNs)과 순환 신경망(RNNs)과 같은 기본 예측 모델을 활용한다.
• 에피소드 기반 훈련을 적용하여, 샘플된 소스 도메인과 대상 도메인을 사용해 저자원 예측 작업을 시뮬레이션한다.
• 메타훈련 중에 고자원 도메인의 감독 신호를 통합하여 목적 수준의 적응을 도입함으로써 전이 가능성 향상.
• 대상 도메인에서 소수의 레이블 데이터만을 사용하여 메타학습된 모델을 대상 작업에 맞게 미세조정한다.

실험 결과

연구 질문

• RQ1 제한된 레이블이 있는 EHR 데이터만으로 메타학습이 임상 위험 예측 성능을 효과적으로 향상시킬 수 있는가?
• RQ2 MCI 및 알츠하이머병 예측과 같은 임상 위험 예측에서, MetaPred는 저데이터 환경에서 표준 감독 딥러닝 모델보다 어떻게 비교되는가?
• RQ3 파킨슨병, 기억상실증 등과 같은 어떤 소스 도메인이 대상 임상 위험 예측에 가장 전이 가능한 지식을 제공하는가?
• RQ4 소스 도메인의 수가 대상 작업에서 메타학습된 모델의 성능에 어느 정도 영향을 미치는가?
• RQ5 제한된 레이블 데이터가 있는 상황에서도 MetaPred가 학습한 표현이 의미 있는 질병 특이적 환자 패턴을 포착할 수 있는가?

주요 결과

• MetaPred는 대상 데이터만으로 훈련된 표준 딥러닝 모델보다 유의하게 뛰어난 성능을 보이며, 특히 경도 인지장애(MCI) 및 알츠하이머병 예측과 같은 저자원 작업에서 두각을 나타낸다.
• MCI 예측에서 기억상실증을 소스 도메인으로 사용할 경우, 기준 방법 대비 F1 스코어 격차가 최대 0.25까지 확대되며, 강력한 도메인 전이 능력을 입증한다.
• 다양한 소스 도메인을 활용하면 더 포괄적인 표현 공간을 제공함으로써 성능 향상이 가능하며, 이는 추론 분석을 통해 검증되었다.
• t-SNE 시각화에서 MetaPred가 생성한 환자 표현은 질병 유형에 따라 잘 분리되어 있어 의미 있는 군집화를 나타낸다.
• 대상 작업에 100개 미만의 레이블 샘플이 있는 경우조차도 MetaPred는 저자원 환경에서 완전히 감독된 모델보다 뛰어난 성능을 달성한다.
• 목적 수준의 적응 구성 요소는 고자원 도메인 감독 신호와 메타학습 초기화를 정렬함으로써 전이 가능성 향상 및 일반화 능력 향상에 기여한다.