[论文解读] Semi-supervised Rare Disease Detection Using Generative Adversarial Network

Wenyuan Li, Yunlong Wang+4 more|arXiv (Cornell University)|Dec 3, 2018

Artificial Intelligence in Healthcare参考文献 12被引用 17

一句话总结

本文提出了一种半监督生成对抗网络（GAN）框架，用于在有限标注数据和大量未标注电子健康记录（EHR）数据下进行罕见病检测。通过采用改进的 GAN 损失函数，结合特征匹配和聚拢正则化，利用未标注数据，模型实现了 34.18% 的 PR-AUC，显著优于逻辑回归和随机森林等基线方法。

ABSTRACT

Rare diseases affect a relatively small number of people, which limits investment in research for treatments and cures. Developing an efficient method for rare disease detection is a crucial first step towards subsequent clinical research. In this paper, we present a semi-supervised learning framework for rare disease detection using generative adversarial networks. Our method takes advantage of the large amount of unlabeled data for disease detection and achieves the best results in terms of precision-recall score compared to baseline techniques.

研究动机与目标

• 解决在标注病例极少的极度不平衡医疗数据集中进行罕见病检测的挑战。
• 利用大量未标注的电子健康记录（EHR）数据，在标注样本稀缺的情况下提升模型性能。
• 开发一种面向罕见病检测的基于 GAN 的半监督学习框架，以提升精确率和召回率。
• 设计一种新型损失函数，通过鼓励生成数据流形补集区域的样本，提升生成器质量。
• 开展消融研究，评估各组件对罕见病检测模型性能的影响。

提出的方法

• 采用包含判别器 D 和生成器 G 的 GAN 架构，其中 D 用于将患者分类为患有或未患有罕见病。
• 使用结合了标注数据上的监督交叉熵损失和未标注数据上的一致性损失的半监督损失进行 GAN 训练。
• 引入特征匹配（FM），以在潜在空间中对齐生成样本与真实数据分布。
• 应用聚拢（PT）正则化项，以鼓励生成器在数据流形的低密度区域附近生成多样化样本。
• 将生成器损失优化为 $ L_G = L_{fm} + L_{pt} $，结合特征匹配与促进多样性的正则化。
• 将全部 797 个输入特征（症状计数、频率、时间差、年龄、性别）归一化至 [-1, 1]，以稳定 GAN 训练。

实验结果

研究问题

• RQ1 当仅有少量标注病例时，半监督 GAN 框架能否有效提升罕见病检测性能？
• RQ2 GAN 损失函数的不同组件——特别是特征匹配与聚拢正则化——如何影响模型性能？
• RQ3 未标注数据在提升极度不平衡罕见病检测任务中的精确率与召回率方面有何贡献？
• RQ4 引入条件熵项是否能提升模型泛化能力，还是由于探索-利用权衡而降低性能？
• RQ5 所提出的基于 GAN 的方法与传统监督模型（如逻辑回归、神经网络和随机森林）相比，在罕见病检测中表现如何？

主要发现

• 所提出的半监督 GAN 实现了 34.18% 的 PR-AUC，较次优基线模型提升 5%。
• 该模型优于逻辑回归（29.04% PR-AUC）、与判别器架构相同的神经网络（28.95% PR-AUC）以及随机森林（10.51% PR-AUC）。
• 消融研究显示，特征匹配与聚拢正则化（FM + PT）的组合取得了最高性能（34.18% PR-AUC）。
• 未使用未标注数据的模型（如 NN(D) 和原始 GAN）PR-AUC 显著更低，证实了未标注数据在半监督学习中的价值。
• 引入条件熵项（Ent）导致性能下降，表明其可能因过度探索或训练过程不稳定性而产生负面影响。
• 结果表明，在数据流形补集区域生成样本可改善决策边界的泛化能力，尤其在低数据场景下。