[论文解读] MetaPred: Meta-Learning for Clinical Risk Prediction with Limited Patient Electronic Health Records

Xi Sheryl Zhang, Fengyi Tang+3 more|arXiv (Cornell University)|May 8, 2019

Machine Learning in Healthcare参考文献 36被引用 8

一句话总结

MetaPred 提出了一种模型无关的元学习框架，用于在电子健康记录（EHR）数据有限的情况下进行临床风险预测。通过在多个相关的临床风险预测任务上预训练元学习器，该方法能够利用少量标注样本快速适应低资源目标任务，在轻度认知障碍（MCI）和阿尔茨海默病预测任务上表现优于标准深度学习模型。

ABSTRACT

In recent years, increasingly augmentation of health data, such as patient Electronic Health Records (EHR), are becoming readily available. This provides an unprecedented opportunity for knowledge discovery and data mining algorithms to dig insights from them, which can, later on, be helpful to the improvement of the quality of care delivery. Predictive modeling of clinical risk, including in-hospital mortality, hospital readmission, chronic disease onset, condition exacerbation, etc., from patient EHR, is one of the health data analytic problems that attract most of the interests. The reason is not only because the problem is important in clinical settings, but also there are challenges working with EHR such as sparsity, irregularity, temporality, etc. Different from applications in other domains such as computer vision and natural language processing, the labeled data samples in medicine (patients) are relatively limited, which creates lots of troubles for effective predictive model learning, especially for complicated models such as deep learning. In this paper, we propose MetaPred, a meta-learning for clinical risk prediction from longitudinal patient EHRs. In particular, in order to predict the target risk where there are limited data samples, we train a meta-learner from a set of related risk prediction tasks which learns how a good predictor is learned. The meta-learned can then be directly used in target risk prediction, and the limited available samples can be used for further fine-tuning the model performance. The effectiveness of MetaPred is tested on a real patient EHR repository from Oregon Health & Science University. We are able to demonstrate that with CNN and RNN as base predictors, MetaPred can achieve much better performance for predicting target risk with low resources comparing with the predictor trained on the limited samples available for this risk.

研究动机与目标

• 解决电子健康记录（EHR）中因标注患者数据稀缺而导致的低资源临床风险预测挑战。
• 克服传统深度学习模型在临床环境中需要大量标注数据才能有效训练的局限性。
• 利用相关、高资源的临床风险预测任务中的知识，提升在低资源目标任务上的性能。
• 开发一种迁移学习框架，实现在仅需极少标注数据的情况下快速适应新的临床风险预测任务。
• 证明元学习在真实世界 EHR 数据中预测复杂且具有临床意义的结果（如认知功能下降和死亡率）的有效性。

提出的方法

• 在一系列相关的临床风险预测任务（如不同类型的认知障碍）上训练元学习器，以学习可泛化的预测模型初始化。
• 采用模型无关的元学习（MAML）方法，以优化在少量样本下对新任务的快速适应能力。
• 使用卷积神经网络（CNNs）和循环神经网络（RNNs）等基础预测器来建模纵向 EHR 序列。
• 采用基于任务的训练方式，每个训练“episode”通过采样源领域和目标领域来模拟低资源预测任务。
• 在元训练过程中引入目标层级的适应机制，通过高资源领域的监督信号提升模型的可迁移性。
• 仅使用目标领域中少量标注样本对元学习得到的模型进行微调。

实验结果

研究问题

• RQ1 当仅有有限的标注 EHR 数据时，元学习是否能有效提升临床风险预测性能？
• RQ2 在 MCI 和阿尔茨海默病等临床风险预测的低数据场景下，MetaPred 与标准监督深度学习模型相比表现如何？
• RQ3 哪些源领域（如帕金森病、遗忘症）能为预测目标临床风险提供最具可迁移性的知识？
• RQ4 源领域的数量在多大程度上影响元学习模型在目标任务上的性能？
• RQ5 即使在标注数据有限的情况下，MetaPred 学习到的表示是否能捕捉到有意义的、与疾病相关的患者模式？

主要发现

• MetaPred 显著优于仅在目标数据上训练的标准深度学习模型，尤其在轻度认知障碍（MCI）和阿尔茨海默病等低资源任务上表现突出。
• 当以遗忘症作为源领域用于 MCI 预测时，MetaPred 的 F1 分数较基线方法最高提升 0.25，展现出强大的领域迁移能力。
• 使用多个源领域可提升性能，通过消融实验证实其提供了更全面的表示空间。
• t-SNE 可视化显示，MetaPred 生成的患者表示在空间中按疾病类型实现良好分离，表明其具有有意义的聚类特性。
• 即使目标任务的标注样本少于 100 个，MetaPred 仍能实现优越性能，优于此类低数据场景下的完全监督模型。
• 目标层级适应组件通过将元学习初始化与高资源领域监督对齐，增强了模型的可迁移性，提升了泛化能力。