[논문 리뷰] Generation of Synthetic Electronic Health Records Using a Federated GAN

John E. Weldon, Tomás Ward외 1명|arXiv (Cornell University)|2021. 09. 06.

Machine Learning in Healthcare참고 문헌 15인용 수 5

한 줄 요약

이 논문은 원시 데이터 폭로 없이 분산된 중환자실(ICU) 환자 진료 데이터에서 고해상도 합성 전자 건강 기록(EHR)을 생성하기 위해 연합 학습 기반의 생성적 적대적 네트워크(GAN)를 제안한다. 다수의 병원에서 연합 학습을 수행함으로써 중앙집중식 학습과 유사한 합성 데이터 품질을 유지함을 입증하였으며, 통계적 또는 임상 평가 지표에 유의미한 감소가 없음을 확인하였다.

ABSTRACT

Sensitive medical data is often subject to strict usage constraints. In this paper, we trained a generative adversarial network (GAN) on real-world electronic health records (EHR). It was then used to create a data-set of "fake" patients through synthetic data generation (SDG) to circumvent usage constraints. This real-world data was tabular, binary, intensive care unit (ICU) patient diagnosis data. The entire data-set was split into separate data silos to mimic real-world scenarios where multiple ICU units across different hospitals may have similarly structured data-sets within their own organisations but do not have access to each other's data-sets. We implemented federated learning (FL) to train separate GANs locally at each organisation, using their unique data silo and then combining the GANs into a single central GAN, without any siloed data ever being exposed. This global, central GAN was then used to generate the synthetic patients data-set. We performed an evaluation of these synthetic patients with statistical measures and through a structured review by a group of medical professionals. It was shown that there was no significant reduction in the quality of the synthetic EHR when we moved between training a single central model and training on separate data silos with individual models before combining them into a central model. This was true for both the statistical evaluation (Root Mean Square Error (RMSE) of 0.0154 for single-source vs. RMSE of 0.0169 for dual-source federated) and also for the medical professionals' evaluation (no quality difference between EHR generated from a single source and EHR generated from multiple sources).

연구 동기 및 목표

• 민감한 전자 건강 기록(EHR) 공유 시 개인정보 제약을 해결하기 위해 실제 환자 데이터 폴더 없이 통계적 특성을 유지하는 합성 EHR를 생성하는 것.
• 개인정보 보호 규정으로 인해 데이터를 공유할 수 없는 고립된 데이터 실(데이터 실)을 가진 다수의 병원 간 협업 기반의 EHR 데이터 생성을 가능하게 하는 것.
• 단일 데이터 소스에서의 중앙집중식 학습과 비교해 연합 GAN 학습이 합성 EHR의 품질을 유지하는지 평가하는 것.
• 합성 EHR의 현실성과 연구 및 모델 훈련에 대한 유용성을 확보하기 위해 통계적 지표와 임상 전문가 검토를 병행해 검증하는 것.

제안 방법

• MIMIC-III EHR 데이터셋의 이진 ICD-9 진료 코드를 기반으로 조건부 GAN을 훈련하여 각 환자를 1,071차원의 이진 벡터로 매핑.
• 각 병원(데이터 실)이 자체 데이터에서 독립적으로 로컬 GAN을 훈련하는 연합 학습 프레임워크를 구현하며, 원시 기록을 공유하지 않음.
• 모든 기관 간에 원시 환자 데이터를 전송하지 않고도 로컬 생성자 및 구분자 모델을 융합해 글로벌 중앙 GAN을 구성.
• 모드 붕괴를 완화하기 위해 와서슈타인 GAN과 기울기 보정(WGAN-GP)을 사용했으나, 품질 저하로 인해 기존 GAN 아키텍처로 복귀.
• 실제 데이터 분포와의 루트 평균 제곱 오차(RMSE) 및 잠재적 소유자 추론 유출을 탐지하기 위해 코사인 유사도를 사용해 합성 데이터를 평가.
• 의료 전문가가 참여한 구조화된 임상 검토를 통해 생성된 EHR의 현실성과 임상적 타당성을 평가.

실험 결과

연구 질문

• RQ1 분산된 고립된 데이터 실에서 훈련된 연합 GAN이 단일 소스에서 훈련된 중앙집중식 GAN과 유사한 품질의 합성 EHR를 생성할 수 있는가?
• RQ2 다수의 병원에서 연합 학습을 수행할 경우, 단일 소스 학습 대비 합성 EHR의 통계적 정밀도가 유의미하게 떨어지는가?
• RQ3 의료 전문가들은 연합 GAN을 통해 생성된 합성 EHR의 현실성과 임상적 타당성에 대해 어떻게 평가하는가?
• RQ4 중복 매칭 및 코사인 유사도와 같은 개인정보 보호 점검을 통해 합성 환자가 실제 환자와 식별 가능한가?
• RQ5 WGAN-GP는 데이터 품질을 희생시키지 않고도 합성 EHR 생성에서 모드 붕괴를 효과적으로 방지할 수 있는가?

주요 결과

• 이중 실(duaI-silo) 훈련에서 연합 GAN의 RMSE는 0.0169였으며, 단일 소스 훈련의 0.0154와 유사하여 통계적 품질에 대한 유의미한 열화가 없음을 시사.
• 모든 모델에서 실재 환자 진료 벡터와 합성 환자 간 정확한 일치가 발견되지 않아 직접적인 데이터 泄露가 없음을 확인.
• 실제 환자와 합성 환자 간 평균 최소 코사인 거리는 0.4698(이중 실)였으며, 0.1 이내 유사도를 가지는 경우는 0.1 이하의 소수의 비율에 그쳐 소유자 추론 위험은 낮음.
• 의료 전문가들은 단일 소스에서 생성된 합성 EHR와 다수의 연합 소스에서 생성된 합성 EHR 간에 품질에 유의미한 차이를 발견하지 못함.
• WGAN-GP는 모드 붕괴를 감소시켰지만 데이터 품질에 뚜렷한 저하를 초래하여 저자들이 기존 GAN 아키텍처를 유지함.
• 본 연구는 엄격한 데이터 공유 제약 조건 하에서도 연합 GAN이 개인정보 보호와 유용성에 손상 없이 고품질의 합성 EHR를 생성할 수 있음을 확인함.