[논문 리뷰] EVA: Generating Longitudinal Electronic Health Records Using Conditional Variational Autoencoders

Siddharth Biswal, Soumya Ghosh외 4명|arXiv (Cornell University)|2020. 12. 18.

Machine Learning in Healthcare참고 문헌 30인용 수 9

한 줄 요약

EVA는 시간적 패턴과 환자 수준의 변동성을 유지하면서 이산적인 임상 방문 시퀀스를 모델링함으로써 현실적이고 다양한 종단적 전자건강기록(EHR)을 생성하기 위해 조건부 변동형 오토인코더를 제안한다. 이는 효율적이고 정확한 사후 추론을 위해 확률적 경사 마르코프 체인 몽테카를로(SG-MCMC)와 보상된 변동형 추론을 결합한다. 이로 인해 기존 최고 성능을 기록하며, 후행 예측 모델링 작업과 사용자 평가에서 실제 데이터와 유사한 성능을 보인다.

ABSTRACT

Researchers require timely access to real-world longitudinal electronic health records (EHR) to develop, test, validate, and implement machine learning solutions that improve the quality and efficiency of healthcare. In contrast, health systems value deeply patient privacy and data security. De-identified EHRs do not adequately address the needs of health systems, as de-identified data are susceptible to re-identification and its volume is also limited. Synthetic EHRs offer a potential solution. In this paper, we propose EHR Variational Autoencoder (EVA) for synthesizing sequences of discrete EHR encounters (e.g., clinical visits) and encounter features (e.g., diagnoses, medications, procedures). We illustrate that EVA can produce realistic EHR sequences, account for individual differences among patients, and can be conditioned on specific disease conditions, thus enabling disease-specific studies. We design efficient, accurate inference algorithms by combining stochastic gradient Markov Chain Monte Carlo with amortized variational inference. We assess the utility of the methods on large real-world EHR repositories containing over 250, 000 patients. Our experiments, which include user studies with knowledgeable clinicians, indicate the generated EHR sequences are realistic. We confirmed the performance of predictive models trained on the synthetic data are similar with those trained on real EHRs. Additionally, our findings indicate that augmenting real data with synthetic EHRs results in the best predictive performance - improving the best baseline by as much as 8% in top-20 recall.

연구 동기 및 목표

• 의료 시스템의 데이터 기밀 보장 필요성과 연구자들이 실제 세계의 종단적 EHR 데이터에 접근하고자 하는 요구 사이의 극복할 수 없는 갈등을 해결하기 위해.
• 실제 시간적 패턴, 환자 수준의 다양성, 임상 시퀀스의 복잡성을 유지하는 합성 EHR를 생성하기 위해.
• 특정 질환 상태에 따라 EHR를 조건부로 생성함으로써 목표 지향적인 임상 연구를 지원하기 위해.
• 대규모 EHR 합성에 적합한 정확성과 확장성의 균형을 이룬 효율적인 추론 알고리즘 개발을 위해.
• 임상의 사용자 연구와 예측 모델링 작업을 통해 합성 EHR의 현실성과 유용성을 검증하기 위해.

제안 방법

• EVA는 각 방문이 임상 코드의 이진 벡터로 표현되는 이산적인 EHR 방문 시퀀스를 모델링하기 위해 조건부 변동형 오토인코더(CVAE)를 사용한다.
• 모델은 환자 수준의 질환 상태에 따라 생성을 조건화함으로써 특정 질환에 기반한 합성 EHR 생성이 가능하다.
• 잠재 변수에 대한 효율적 사후 추론을 수행하기 위해 확률적 경사 마르코프 체인 몽테카를로(SG-MCMC)와 보상된 변동형 추론을 통합한다.
• VAE 프레임워크 내부의 순환 또는 순차적 모델링 구성 요소를 통해 EHR 시퀀스의 시간적 의존성을 포착한다.
• 잠재 불확실성을 유지함으로써 생성된 시퀀스의 다양성을 보장하고, 모드 붕괴를 방지하며 현실감을 향상시킨다.
• 일반화 및 정확도를 확보하기 위해 25만 명 이상의 환자와 1,300만 건 이상의 방문을 포함한 대규모 실제 EHR 레포지토리에서 모델을 훈련시켰다.

실험 결과

연구 질문

• RQ1 딥 러닝 생성 모델은 실제 임상 패턴을 반영한 현실적이고 다양한 종단적 EHR 시퀀스를 생성할 수 있는가?
• RQ2 모델은 특정 질환 상태에 따라 EHR를 얼마나 잘 조건부로 생성할 수 있는가? 이는 목표 지향적 연구에 얼마나 기여하는가?
• RQ3 합성 EHR 데이터는 예측 모델을 효과적으로 학습시키기 위해 충분한 정확도를 유지하는가?
• RQ4 합성 EHR로 훈련된 모델의 성능은 실제 데이터로 훈련된 모델과 비교해 복귀율(recall)과 정밀도(precision) 측면에서 어떻게 되는가?
• RQ5 합성 EHR를 사용해 실제 데이터를 증강하면, 실제 데이터만으로는 달성할 수 없는 성능 향상을 이룰 수 있는가?

주요 결과

• 실제 임상의가 수행한 사용자 연구에서 EVA가 생성한 EHR 시퀀스는 현실적으로 평가되어 임상적 타당성이 확인되었다.
• 합성 EHR로 훈련된 예측 모델은 실제 EHR로 훈련된 모델과 유사한 성능을 기록하여 데이터 정확도가 검증되었다.
• 실제 EHR 데이터에 합성 데이터를 증강함으로써 상위 20개의 복귀율(recall)이 최고의 기준 모델 대비 최대 8% 향상되었다.
• 모델은 존재 노출 공격에 대해 강건성을 보였으며, 민감도와 정밀도가 80%의 사전 확률 이하로 유지되어 재식별 위험 없음을 시사했다.
• LSTM 기준 모델보다 EVA는 더 다양한 임상 이벤트 시퀀스를 생성하여 방문 간 반복을 줄이고 현실감을 향상시켰다.
• 실제 및 합성 EHR 데이터의 조합이 가장 뛰어난 예측 성능을 보였으며, 실질적 또는 합성 데이터만으로 훈련된 모델보다 뛰어났다.