[论文解读] Generation of Synthetic Electronic Health Records Using a Federated GAN

John E. Weldon, Tomás Ward+1 more|arXiv (Cornell University)|Sep 6, 2021

Machine Learning in Healthcare参考文献 15被引用 5

一句话总结

本文提出一种联邦生成对抗网络（GAN），在不暴露原始数据的前提下，从分散的ICU患者诊断数据中生成高保真度的合成电子健康记录（EHR）。结果表明，跨多家医院的联邦训练在保持合成数据质量方面与集中式训练相当，统计或临床评估指标无显著下降。

ABSTRACT

Sensitive medical data is often subject to strict usage constraints. In this paper, we trained a generative adversarial network (GAN) on real-world electronic health records (EHR). It was then used to create a data-set of "fake" patients through synthetic data generation (SDG) to circumvent usage constraints. This real-world data was tabular, binary, intensive care unit (ICU) patient diagnosis data. The entire data-set was split into separate data silos to mimic real-world scenarios where multiple ICU units across different hospitals may have similarly structured data-sets within their own organisations but do not have access to each other's data-sets. We implemented federated learning (FL) to train separate GANs locally at each organisation, using their unique data silo and then combining the GANs into a single central GAN, without any siloed data ever being exposed. This global, central GAN was then used to generate the synthetic patients data-set. We performed an evaluation of these synthetic patients with statistical measures and through a structured review by a group of medical professionals. It was shown that there was no significant reduction in the quality of the synthetic EHR when we moved between training a single central model and training on separate data silos with individual models before combining them into a central model. This was true for both the statistical evaluation (Root Mean Square Error (RMSE) of 0.0154 for single-source vs. RMSE of 0.0169 for dual-source federated) and also for the medical professionals' evaluation (no quality difference between EHR generated from a single source and EHR generated from multiple sources).

研究动机与目标

• 通过生成保留统计特性的合成EHR来解决敏感电子健康记录（EHR）共享中的隐私约束，同时不暴露真实患者数据。
• 在因隐私法规而无法共享数据的多个医院之间，实现基于孤立数据孤岛的协作式EHR数据生成。
• 评估联邦GAN训练是否能在与单一数据源的集中式训练相比时，保持合成EHR的质量。
• 通过统计指标和临床专家评审双重验证，确保合成EHR的真实性与研究及模型训练的实用性。

提出的方法

• 在MIMIC-III EHR数据集的二值ICD-9诊断代码上训练条件GAN，将每位患者映射为1,071维的二值向量。
• 实施联邦学习框架，使每家医院（数据孤岛）在其自身数据上独立训练本地GAN，且不共享原始记录。
• 在不跨机构传输任何原始患者数据的前提下，将本地生成器和判别器模型聚合为全局中心GAN。
• 采用带梯度惩罚的Wasserstein GAN（WGAN-GP）以缓解模式崩溃，但因质量下降而改回标准GAN。
• 使用真实数据分布的均方根误差（RMSE）和余弦相似度检测潜在成员推断泄漏，对合成数据进行评估。
• 由医学专业人士开展结构化临床评审，以评估生成EHR的真实性与临床合理性。

实验结果

研究问题

• RQ1 当在分散的、孤立的数据孤岛上训练时，联邦GAN能否生成与集中式GAN质量相当的合成EHR？
• RQ2 与单一数据源训练相比，跨多家医院的联邦训练是否会导致合成EHR在统计保真度上出现可测量的下降？
• RQ3 医学专业人士如何评价通过联邦GAN生成的EHR在真实性和临床合理性方面的表现？
• RQ4 隐私检查（如重复匹配和余弦相似度）在多大程度上证实了合成患者无法从真实患者中被识别？
• RQ5 WGAN-GP能否在不牺牲数据质量的前提下有效防止合成EHR生成中的模式崩溃？

主要发现

• 联邦GAN在双孤岛训练中实现了0.0169的RMSE，与单一数据源训练的0.0154相比，统计质量仅出现轻微下降。
• 所有模型中均未发现任何真实患者诊断向量与合成患者之间存在完全匹配，证实无直接数据泄露。
• 真实患者与合成患者之间的平均最小余弦距离为0.4698（双孤岛），仅有极小比例（低于0.1）的相似度低于0.1，表明成员推断风险较低。
• 医学专业人士未在单一来源与多联邦源生成的合成EHR之间发现质量上的显著差异。
• 尽管WGAN-GP减少了模式崩溃，但导致数据质量明显下降，因此作者最终保留标准GAN架构。
• 本研究证实，联邦GAN可在严格数据共享限制下生成高质量的合成EHR，且不损害隐私或实用性。