[논문 리뷰] Generating Multi-label Discrete Patient Records using Generative Adversarial Networks

Edward Choi, Siddharth Biswal외 4명|arXiv (Cornell University)|2017. 03. 19.

Machine Learning in Healthcare참고 문헌 42인용 수 341

한 줄 요약

요약: medGAN은 자동인코더와 GAN을 결합하여 고차원 다중 레이블 이진/개수 변수의 EHR(전자 건강 기록) 기록을 생성한다. 미니배치 평균화를 통해 모드 붕괴를 줄이고 배치 정규화 및 숏컷 연결로 학습을 개선하여 실제에 근접한 데이터 품질을 달성하고 프라이버시 위험을 평가한다.

ABSTRACT

Access to electronic health record (EHR) data has motivated computational advances in medical research. However, various concerns, particularly over privacy, can limit access to and collaborative use of EHR data. Sharing synthetic EHR data could mitigate risk. In this paper, we propose a new approach, medical Generative Adversarial Network (medGAN), to generate realistic synthetic patient records. Based on input real patient records, medGAN can generate high-dimensional discrete variables (e.g., binary and count features) via a combination of an autoencoder and generative adversarial networks. We also propose minibatch averaging to efficiently avoid mode collapse, and increase the learning efficiency with batch normalization and shortcut connections. To demonstrate feasibility, we showed that medGAN generates synthetic patient records that achieve comparable performance to real data on many experiments including distribution statistics, predictive modeling tasks and a medical expert review. We also empirically observe a limited privacy risk in both identity and attribute disclosure using medGAN.

연구 동기 및 목표

• 연구를 가능하게 하면서 프라이버시 위험을 완화하기 위해 합성 EHR 데이터 생성을 촉진한다.
• EHR에서 고차원 이산 변수(이진 및 개수)를 생성한다.
• 자동인코더를 활용해 GAN이 이산 기록을 모델링하고 합성 출력으로 복호화하도록 한다.
• 미니배치 평균화 및 구조적 개선을 통해 이산 다중레이블 데이터의 GAN 학습 안정성을 향상시킨다.
• 합성 데이터의 현실성, 예측 과제에 대한 활용도 및 프라이버시 위험을 평가한다.

제안 방법

• EHR 데이터를 이산 개수나 이진값의 고정 크기 벡터로 정의한다.
• 이산 변수의 중요한 특징을 학습하기 위해 자동인코더를 사용하고 이를 이산 출력으로 디코딩한다.
• 제너레이터의 출력을 사전에 학습된 디코더를 거쳐 합성 이산 기록을 생성하는 GAN을 훈련한다.
• 디스크리미네이터가 명시적 반올림 없이 실제 기록과 합성 출력 사이를 구분한다.
• 디스크리미네이터가 미니배치 통계를 보도록 미니배치 평균화를 도입해 모드 붕괴를 완화한다.
• 학습 중 D와 G의 균형을 맞추기 위해 제너레이터에 배치 정규화와 숏컷 연결을 강화한다.

실험 결과

연구 질문

• RQ1 medGAN이 실제 데이터와 비교하여 고차원 이산 EHR 특징(이진 및 개수)의 분포를 재현할 수 있는가?
• RQ2 medGAN이 특징 간 상관관계를 보존하고 합성 기록을 사용한 정확한 예측 모델링을 가능하게 하는가?
• RQ3 미니배치 평균화가 모드 붕괴 및 데이터 현실성에 미치는 실질적 영향은 무엇인가?
• RQ4 임상 전문가에게 생성된 기록의 현실성은 어떤가?
• RQ5 medGAN 생성 데이터와 관련된 프라이버시 위험(존재 및 속성 노출)은 무엇인가?

주요 결과

• medGAN 및 확장 변형은 이산 EHR 데이터에 대해 실제에 가까운 분포와 예측 과제 성능을 달성한다.
• 미니배치 평균화는 차원별 확률과 예측 현실성을 크게 향상시키지만 이 설정에서 미니배치 차별화는 명확한 이점을 제공하지 않는다.
• 제너레이터의 배치 정규화 및 숏컷 연결은 학습 효율성과 데이터 현실성을 향상시킨다.
• 의료 전문가 검토에 따르면 합성 개수 데이터는 도메인 특성 문제로 일부 이상치를 제외하면 실데이터와 거의 구별되지 않는다.
• 프라이버시 분석은 평가된 시나리오에서 존재 및 속성 노출 위험이 제한적임을 보여주며 합성 생성의 일부 프라이버시 이점을 시사한다.