[논문 리뷰] Boosting Deep Learning Risk Prediction with Generative Adversarial Networks for Electronic Health Records

Zhengping Che, Yu Cheng외 3명|arXiv (Cornell University)|2017. 09. 06.

Machine Learning in Healthcare참고 문헌 37인용 수 25

한 줄 요약

이 논문은 전자 건강 기록(EHR)을 위한 특화된 생성 적대 신경망(ehrGAN)을 제안하며, 준감독 학습을 통한 심부전 및 당뇨병 예측에 활용할 수 있는 현실적인 레이블이 부여된 환자 데이터를 생성한다. 제한된 실제 EHR 데이터를 합성 샘플로 보완함으로써, 딥러닝 모델의 성능을 크게 향상시켰으며, 최신 기준 모델들을 능가하는 성능을 보이며 심부전(HF50)에서 최대 0.0291, 당뇨병(Dia50)에서 최대 0.0201의 AUROC 향상을 달성하였다.

ABSTRACT

The rapid growth of Electronic Health Records (EHRs), as well as the accompanied opportunities in Data-Driven Healthcare (DDH), has been attracting widespread interests and attentions. Recent progress in the design and applications of deep learning methods has shown promising results and is forcing massive changes in healthcare academia and industry, but most of these methods rely on massive labeled data. In this work, we propose a general deep learning framework which is able to boost risk prediction performance with limited EHR data. Our model takes a modified generative adversarial network namely ehrGAN, which can provide plausible labeled EHR data by mimicking real patient records, to augment the training dataset in a semi-supervised learning manner. We use this generative model together with a convolutional neural network (CNN) based prediction model to improve the onset prediction performance. Experiments on two real healthcare datasets demonstrate that our proposed framework produces realistic data samples and achieves significant improvements on classification tasks with the generated data over several stat-of-the-art baselines.

연구 동기 및 목표

• 딥러닝을 활용한 의료 분야에서 레이블이 부여된 EHR 데이터가 부족한 문제를 해결함으로써 모델 성능 향상을 도모한다.
• 실제 임상적으로 타당한 EHR 샘플을 생성할 수 있는 생성 모델을 개발하여 학습 데이터를 보완한다.
• 합성 데이터를 활용한 준감독 학습을 통해 심부전 및 당뇨병과 같은 질환의 위험 예측 성능을 향상시킨다.
• 낮은 데이터 환경에서 GAN 기반 데이터 생성과 딥 네URAL 네트워크의 조합이 임상 예측에 효과적인지 입증한다.

제안 방법

• 실제 EHR 시퀀스와 올바른 레이블을 갖춘 현실적인 데이터를 생성하기 위해 적대적 훈련을 통해 훈련되는 수정된 GAN 아키텍처인 ehrGAN을 제안한다.
• 환자의 레이블에 조건부로 설정된 잠재 공간에서 샘플을 추출하는 조건부 생성자 모델을 사용하여 생성된 데이터의 레이블 일관성을 보장한다.
• 실제 데이터와 합성 데이터를 모두 활용하여 CNN 기반의 위험 예측 모델을 훈련하는 준감독 학습 프레임워크에 생성자를 통합한다.
• 재구성 손실와 적대적 손실 간의 균형을 조절하는 하이퍼파rameter ρ를 최적화하여 생성 샘플의 다양성과 현실성 확보한다.
• 훈련 중 실제 레이블이 부여된 데이터와 생성 데이터의 비율을 조절하는 하이퍼파rameter μ를 통해 데이터 활용도를 제어한다.
• 심부문 및 당뇨병 예측 작업을 위해 두 개의 실제 EHR 데이터셋(HF50 및 Dia50)에 프레임워크를 적용하고, AUROC 및 정확도를 평가 지표로 성능을 평가한다.

실험 결과

연구 질문

• RQ1 GAN 기반 모델은 실제 환자 기록을 흉내 내는 현실적이고 레이블이 부여된 EHR 시퀀스를 생성할 수 있는가?
• RQ2 합성 EHR 데이터를 활용한 준감독 학습은 감독 기반 기준 모델 대비 위험 예측 성능을 향상시키는가?
• RQ3 예측 성능을 최대화하기 위해 실제 데이터와 생성 데이터 간의 최적 비율(μ로 제어)은 무엇인가?
• RQ4 생성자 손실를 제어하는 하이퍼파rameter ρ는 생성 샘플의 품질과 유용성, 그리고 후속 예측 정확도에 어떤 영향을 미치는가?
• RQ5 제안된 프레임워크는 레이블이 제한된 다양한 임상 예측 과제에 일반화 가능한가?

주요 결과

• ehrGAN 모델은 임상적 타당성과 시간적 패턴 측면에서 실제 환자 기록과 구분이 불가능한 현실적인 EHR 샘플을 성공적으로 생성하였다.
• 제안된 SSL-GAN 프레임워크는 최적의 설정에서 기준 모델(CNN-BASIC) 대비 HF50 데이터셋에서 0.0291의 AUROC 향상을 달성하였으며, ρ=0.1 및 μ=0.6일 때 0.9075의 AUROC를 기록하였다.
• Dia50 데이터셋에서는 기준 모델 대비 0.0201의 AUROC 향상을 달성하였으며, 최적 설정에서 0.9354의 AUROC를 기록하였다.
• ρ의 최적 설정은 0.1이며, ρ=0 또는 ρ=1인 경우는 샘플 품질이 열 劣하거나 레이블 일관성이 떨어져 성능이 악화된다.
• ρ=0.1일 때 최적의 μ 값은 0.6이며, 이는 과도한 생성 데이터 사용이 성능에 악영향을 미친다는 점을 시사하며, 데이터 비율 조절이 신중히 이루어져야 함을 시사한다.
• 이 프레임워크는 두 데이터셋에서 표준 CNN 및 두 가지 강력한 SSL 기준 모델(SSL-SMIR 및 SSL-LGC)을 모두 능가하며 일관된 성능 향상을 보이며, 우수한 일반화 능력을 입증하였다.