[论文解读] DeepCare: A Deep Dynamic Memory Model for Predictive Medicine

Trang Pham, Truyen Tran+2 more|arXiv (Cornell University)|Feb 1, 2016

Machine Learning in Healthcare参考文献 39被引用 82

一句话总结

DeepCare 提出了一种端到端的深度学习模型，通过使用时间参数化的 LSTM 来处理不规则间隔的、分次就诊的医疗数据，从而对电子病历（EMRs）中的长期时间依赖关系进行建模。通过将诊断和干预措施嵌入向量空间，引入时间感知的遗忘机制，并采用多尺度时间池化，DeepCare 在糖尿病和精神健康队列中预测未来疾病进展及高风险结局方面达到了最先进性能。

ABSTRACT

Personalized predictive medicine necessitates the modeling of patient illness and care processes, which inherently have long-term temporal dependencies. Healthcare observations, recorded in electronic medical records, are episodic and irregular in time. We introduce DeepCare, an end-to-end deep dynamic neural network that reads medical records, stores previous illness history, infers current illness states and predicts future medical outcomes. At the data level, DeepCare represents care episodes as vectors in space, models patient health state trajectories through explicit memory of historical records. Built on Long Short-Term Memory (LSTM), DeepCare introduces time parameterizations to handle irregular timed events by moderating the forgetting and consolidation of memory cells. DeepCare also incorporates medical interventions that change the course of illness and shape future medical risk. Moving up to the health state level, historical and present health states are then aggregated through multiscale temporal pooling, before passing through a neural network that estimates future outcomes. We demonstrate the efficacy of DeepCare for disease progression modeling, intervention recommendation, and future risk prediction. On two important cohorts with heavy social and economic burden -- diabetes and mental health -- the results show improved modeling and risk prediction accuracy.

研究动机与目标

• 解决从电子病历（EMRs）中建模患者健康轨迹长期时间依赖关系的挑战。
• 处理时间不规则、具有可变大小住院记录和干预措施的分次就诊医疗数据。
• 开发一个端到端系统，无需人工特征工程，支持预后预测、干预建议和疾病进展建模。
• 将医疗干预对未来疾病轨迹和风险预测的影响纳入建模。
• 通过参数共享和可扩展架构，实现在多种 EMR 系统和医疗队列中的通用部署。

提出的方法

• 通过将离散的诊断和干预措施嵌入共享向量空间，将每位患者的每次住院表示为连续向量。
• 使用改进的长短期记忆（LSTM）网络，结合时间参数化的遗忘门，以建模住院之间的不规则时间间隔。
• 引入两种遗忘机制：单调衰减和完整的时间参数化，以反映自然遗忘和疾病特异性进展。
• 应用具有衰减权重的多尺度时间池化，突出近期事件，捕捉临床风险中的近期效应。
• 通过池化聚合历史和当前的健康状态，并将其输入前馈神经网络以预测未来结果。
• 使用时间反向传播端到端训练整个模型，优化疾病阶段预测和风险分类目标。

实验结果

研究问题

• RQ1 深度神经网络能否有效建模分次就诊、时间不规则的 EMR 数据中的长期依赖关系，以实现临床预后预测？
• RQ2 如何显式建模医疗干预，以反映其对未来的疾病轨迹的因果影响？
• RQ3 与标准 RNN 或 LSTM 相比，时间参数化在不规则医疗序列上的风险预测准确性提升程度如何？
• RQ4 多尺度时间池化是否增强了模型捕捉临床风险估计中近期效应的能力？
• RQ5 端到端的深度学习框架在预测糖尿病和精神健康患者高风险结局方面，是否优于传统机器学习模型？

主要发现

• 在 12 个月内，DeepCare 在糖尿病患者的高风险预测中达到了 79.0% 的 F1 分数，显著优于基线模型。
• 在 3 个月窗口内，对于精神健康患者，DeepCare 的高风险预测 F1 分数达到 74.7%，在复杂且负担沉重的队列中表现出色。
• 采用时间参数化遗忘机制和干预整合的模型（模型 9）表现最佳，表明时间与临床背景建模的重要性。
• DeepCare 显著优于传统模型（如 SVM、随机森林和标准 RNN），在高风险预测的 F1 分数上提升超过 10 个百分点。
• 多尺度时间池化与神经网络推理的结合，通过捕捉随时间动态演变的健康状态，提升了风险估计能力。
• DeepCare 在糖尿病和精神健康数据集上均表现出具有竞争力的性能，验证了其在多样化临床状况和数据结构中的泛化能力。