[论文解读] Generating Synthetic but Plausible Healthcare Record Datasets

Laura J. Avino, Matteo Ruffini+1 more|arXiv (Cornell University)|Jul 4, 2018

Generative Adversarial Networks and Image Synthesis参考文献 5被引用 24

一句话总结

该论文提出了一种新颖的方法，利用基于矩方法的潜在变量模型生成合成但逼真的医疗记录数据集，具体采用具有二值ICD-9诊断特征的朴素贝叶斯模型。与存在模式崩溃和可解释性差问题的GAN方法（如MedGan）相比，该方法在MIMIC-III和真实世界心力衰竭数据集上实现了显著更低的MMD得分，且更难被随机森林模型与真实数据区分开来，表明其在全局真实感和可解释性方面表现更优。

ABSTRACT

Generating datasets that "look like" given real ones is an interesting tasks for healthcare applications of ML and many other fields of science and engineering. In this paper we propose a new method of general application to binary datasets based on a method for learning the parameters of a latent variable moment that we have previously used for clustering patient datasets. We compare our method with a recent proposal (MedGan) based on generative adversarial methods and find that the synthetic datasets we generate are globally more realistic in at least two senses: real and synthetic instances are harder to tell apart by Random Forests, and the MMD statistic. The most likely explanation is that our method does not suffer from the "mode collapse" which is an admitted problem of GANs. Additionally, the generative models we generate are easy to interpret, unlike the rather obscure GANs. Our experiments are performed on two patient datasets containing ICD-9 diagnostic codes: the publicly available MIMIC-III dataset and a dataset containing admissions for congestive heart failure during 7 years at Hospital de Sant Pau in Barcelona.

研究动机与目标

• 为解决在保护隐私的研究和基准测试中生成合成但合理医疗数据集的挑战。
• 克服在医疗记录合成背景下，GAN方法（尤其是模式崩溃和缺乏可解释性）的局限性。
• 开发一种保持真实患者数据全局统计特性的生成模型，同时具备可解释性和可扩展性。
• 在真实世界的二值ICD-9编码患者数据集（包括MIMIC-III和圣保罗医院的心力衰竭数据集）上评估该方法。

提出的方法

• 该方法将患者记录建模为表示ICD-9诊断代码的二值特征，并假设一个具有朴素贝叶斯结构的潜在变量模型。
• 使用矩方法估计潜在变量模型的参数，利用高阶矩推断潜在的聚类结构。
• 潜在聚类数（k）控制模型复杂度，并通过调优以平衡真实感与泛化能力。
• 生成模型通过在潜在聚类上进行边缘化，从学习到的诊断联合分布中采样。
• 该方法计算效率高，适合并行化处理，尽管当前实现尚未使用GPU加速。
• 避免了GAN的对抗性训练循环，转而依赖闭式矩估计，实现稳定且可解释的生成。

实验结果

研究问题

• RQ1 基于矩方法的潜在变量模型能否生成比MedGan等GAN方法更具全局真实感的合成医疗记录？
• RQ2 所提出的方法是否能避免GAN在医疗数据生成中普遍存在的模式崩溃问题？
• RQ3 使用标准机器学习分类器（如随机森林）在多大程度上能将合成数据与真实数据区分开来？
• RQ4 该方法在多大程度上保留了真实患者数据的统计特性，以MMD统计量衡量？
• RQ5 与GAN的黑箱性质相比，该生成模型是否具备更好的可解释性？

主要发现

• 在MIMIC-III数据集上，该方法在100个潜在聚类下实现了0.01的MMD得分，显著低于MedGan的0.50和基线的0.12。
• 随机森林分类器在区分合成与真实数据时的准确率降至59%（100个聚类），而MedGan为82%，基线为86%。
• 在心力衰竭数据集上，该方法在100个聚类下实现了-0.01的MMD，而MedGan为3.92，表明与真实数据的相似性更高。
• 在两个数据集上，该方法在所有评估指标（准确率、召回率、精确率、特异性）上均优于MedGan和基线。
• 该方法表现出更优的鲁棒性和稳定性，随着潜在聚类数的增加，性能持续提升；而MedGan的MMD性能则随聚类数增加而下降。
• 由于其显式的参数形式，该生成模型具备可解释性，与GAN的不透明特性形成鲜明对比。