[论文解读] Generating Multi-label Discrete Patient Records using Generative Adversarial Networks

Edward Choi, Siddharth Biswal+4 more|arXiv (Cornell University)|Mar 19, 2017

Machine Learning in Healthcare参考文献 42被引用 341

一句话总结

medGAN 将自动编码器与 GAN 结合，以生成高维度、多标签的离散型电子病历记录（二进制和计数变量）。它使用小批量平均来降低模式崩溃，并通过批量归一化和捷径连接改进训练，从而实现接近真实数据的质量并评估隐私风险。

ABSTRACT

Access to electronic health record (EHR) data has motivated computational advances in medical research. However, various concerns, particularly over privacy, can limit access to and collaborative use of EHR data. Sharing synthetic EHR data could mitigate risk. In this paper, we propose a new approach, medical Generative Adversarial Network (medGAN), to generate realistic synthetic patient records. Based on input real patient records, medGAN can generate high-dimensional discrete variables (e.g., binary and count features) via a combination of an autoencoder and generative adversarial networks. We also propose minibatch averaging to efficiently avoid mode collapse, and increase the learning efficiency with batch normalization and shortcut connections. To demonstrate feasibility, we showed that medGAN generates synthetic patient records that achieve comparable performance to real data on many experiments including distribution statistics, predictive modeling tasks and a medical expert review. We also empirically observe a limited privacy risk in both identity and attribute disclosure using medGAN.

研究动机与目标

• 推动合成 EHR 数据的生成，以在促进研究的同时降低隐私风险。
• 从 EHR 生成高维度的离散变量（二进制和计数）。
• 利用自动编码器使 GAN 能建模离散记录并解码为合成输出。
• 通过小批量平均和结构性增强来提升离散、多标签数据的 GAN 训练稳定性。
• 评估合成数据的真实感、对预测任务的实用性以及隐私风险。

提出的方法

• 将 EHR 数据定义为固定长度的离散计数或二进制向量。
• 使用自动编码器学习离散变量的关键特征并解码为离散输出。
• 训练一个 GAN，其生成器输出通过预训练解码器生成合成的离散记录。
• 鉴别器在不进行显式四舍五入的情况下区分真实记录与合成输出。
• 引入小批量平均，使鉴别器暴露于小批量统计信息，以缓解模式崩溃。
• 通过批量归一化和捷径连接来增强生成器，以在训练中平衡 D 与 G。

实验结果

研究问题

• RQ1 与真实数据相比，medGAN 是否能再现高维度离散 EHR 特征（二进制和计数）的分布？
• RQ2 medGAN 是否保留特征间的关系，并能利用合成记录进行准确的预测建模？
• RQ3 小批量平均对模式崩溃和数据真实感的实际影响是什么？
• RQ4 生成记录对临床专家有多真实？
• RQ5 与 medGAN 生成的数据相关的隐私风险（存在性披露与属性披露）是什么？

主要发现

• medGAN 及其增强版本在离散 EHR 数据上的分布和预测任务性能接近真实数据。
• 小批量平均显著提高维度级概率和预测真实感，而在本设置中小批量判别没有明显益处。
• 生成器中的批量归一化和捷径连接提高了学习效率和数据真实感。
• 医学专家评审表明合成计数数据在总体上无法与真实数据区分开来，但因领域特定问题存在一些离群值。
• 隐私分析在评估场景下显示存在性披露和属性披露风险有限，表明合成生成具有一定隐私收益。