[논문 리뷰] Adversarial Training for Disease Prediction from Electronic Health Records with Missing Data

Uiwon Hwang, Sung‐Woon Choi외 2명|arXiv (Cornell University)|2017. 11. 11.

Machine Learning in Healthcare참고 문헌 40인용 수 15

한 줄 요약

이 논문은 결측치가 있는 전자적 건강기록(EHR)에서 질병 예측을 위한 이단계 프레임워크를 제안한다. 결측치 보정에는 스택드 오토에인커를, 질병 분류에는 보조 분류기 GAN(AC-GAN)을 사용한다. 이 방법은 기존의 방법들과 비교해 결측치 및 클래스 불균형에 대해 더 뛰어난 내성성을 보이며, 97.77%의 정확도, 98.89%의 AUC-ROC, 96.88%의 F-score를 기록해 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Electronic health records (EHRs) have contributed to the computerization of patient records and can thus be used not only for efficient and systematic medical services, but also for research on biomedical data science. However, there are many missing values in EHRs when provided in matrix form, which is an important issue in many biomedical EHR applications. In this paper, we propose a two-stage framework that includes missing data imputation and disease prediction to address the missing data problem in EHRs. We compared the disease prediction performance of generative adversarial networks (GANs) and conventional learning algorithms in combination with missing data prediction methods. As a result, we obtained a level of accuracy of 0.9777, sensitivity of 0.9521, specificity of 0.9925, area under the receiver operating characteristic curve (AUC-ROC) of 0.9889, and F-score of 0.9688 with a stacked autoencoder as the missing data prediction method and an auxiliary classifier GAN (AC-GAN) as the disease prediction method. The comparison results show that a combination of a stacked autoencoder and an AC-GAN significantly outperforms other existing approaches. Our results suggest that the proposed framework is more robust for disease prediction from EHRs with missing data.

연구 동기 및 목표

• 실제 임상 환경에서 정확한 질병 예측을 방해하는 전자적 건강기록(EHR) 내의 결측치 문제를 해결하기 위해.
• 과소표본 기반의 오버샘플링 기법에 의존하지 않고도 결측치와 클래스 불균형을 동시에 처리할 수 있는 내성적인 질병 예측 프레임워크를 개발하기 위해.
• 특히 AC-GAN을 포함한 생성적 적대적 네트워크(GAN)의 성능을, 딥러닝 기반의 보정 방법과 조합했을 때 질병 예측에 어떻게 기여하는지 평가하기 위해.
• 기존의 보정 및 분류 방법(예: 평균 보정 및 다층퍼셉트론)과 비교하여 제안된 프레임워크의 성능을 평가하기 위해.
• 결측치가 많고 불균형한 데이터에서 적대적 훈련이 질병 예측 성능을 향상시킬 수 있는지 조사하기 위해.

제안 방법

• 이중단계 프레임워크를 제안한다: 첫 번째 단계에서 EHR 내의 결측치는 스택드 오토에인커를 사용해 보정한다. 스택드 오토에인커는 데이터의 저차원 표현을 학습하는 딥 러닝 기반의 비지도 학습 모델이다.
• 보정된 EHR 데이터는 이후 보조 분류기 GAN(AC-GAN)의 입력으로 사용되며, 이는 현실적인 EHR 샘플을 생성하고 질병 상태를 분류하는 것을 동시에 학습한다.
• AC-GAN의 판별기(Discriminator)는 실제와 생성된 EHR 샘플을 구분하는 동시에 올바른 질병 클래스를 예측하도록 훈련되어, 클래스 감독을 통한 엔드 투 엔드 적대적 훈련이 가능해진다.
• 스택드 오토에인커는 임계값 이상의 희소성(예: 0.1)을 가지는 EHR 데이터를 대상으로 재구성 오차를 최소화하는 방식으로 훈련된다.
• 최적의 학습 에포크 수를 결정하기 위해 검증 데이터를 사용하여 모델 선택을 수행하며, 검증 오차가 최소가 되는 시점에서 학습을 중단한다.
• 오버샘플링 기법을 피하기 위해 생성기의 능력을 활용해 소수의 클래스 샘플을 현실적으로 재생산함으로써, 메모리 오버헤드 없이 클래스 불균형 문제를 완화한다.

실험 결과

연구 질문

• RQ1 희소성이 높은 EHR에서 스택드 오토에인커가 평균 또는 0 보정과 같은 단순한 방법보다 효과적으로 결측치를 보정할 수 있는가?
• RQ2 AC-GAN을 통한 적대적 훈련과 딥러닝 기반 보정을 조합했을 때, 다층퍼셉트론과 같은 기존 모델보다 질병 예측 성능이 향상되는가?
• RQ3 제안된 프레임워크는 EHR에서 결측치와 클래스 불균형을 동시에 다룰 때 정확도, 민감도, 특이도, AUC-ROC, F-score 측면에서 어떤 성능을 보이는가?
• RQ4 GAN의 생성기가 실제 데이터와 구분이 어려울 정도로 현실적인 EHR 샘플을 생성할 수 있는가? t-SNE 시각화를 통해 이를 검증한다.
• RQ5 오버샘플링을 명시적으로 수행하지 않아도 적대적 훈련을 통해 클래스 분포를 암묵적으로 균형 잡을 수 있는가? 이는 메모리 및 계산 비용 절감에 기여하는가?

주요 결과

• 스택드 오토에인커를 통한 보정과 AC-GAN을 통한 질병 분류의 조합이 가장 높은 성능을 기록했으며, 정확도는 97.77%였다.
• 민감도는 95.21%, 특이도는 99.25%이며, AUC-ROC 점수는 98.89%로 강력한 분류 능력을 보였다.
• F-score는 96.88%에 도달하여, 양성 및 음성 질병 클래스 모두에서 정밀도와 재현율의 균형 잡힌 성능을 입증했다.
• t-SNE 시각화 결과, 생성된 EHR 샘플이 실제 샘플과 거의 구분되지 않음을 확인했으며, 높은 품질의 데이터 합성 능력을 입증했다.
• 동일한 아키텍처를 가진 표준 다층퍼셉트론보다 AC-GAN이 더 뛰어난 성능을 보였으며, 이는 적대적 훈련이 예측 성능을 크게 향상시킨다는 것을 시사한다.
• 오버샘플링을 사용하지 않아도 클래스 불균형에 대해 내성적인 프레임워크임을 입증했으며, 이로 인해 메모리 및 학습 시간 증가를 방지했다.