[论文解读] Deepr: A Convolutional Net for Medical Records

Phuoc Nguyen, Truyen Tran+2 more|arXiv (Cornell University)|Jul 26, 2016

Machine Learning in Healthcare参考文献 35被引用 28

一句话总结

Deepr 是一种深度学习框架，可将不规则的电子病历（EMR）转换为时间间隔分隔的临床事件序列，利用卷积神经网络检测具有预测性的局部临床模式，并预测未来健康风险——在保持传统方法优势的同时，通过模式可视化实现可解释的风险说明。

ABSTRACT

Feature engineering remains a major bottleneck when creating predictive systems from electronic medical records. At present, an important missing element is detecting predictive regular clinical motifs from irregular episodic records. We present Deepr (short for Deep record), a new end-to-end deep learning system that learns to extract features from medical records and predicts future risk automatically. Deepr transforms a record into a sequence of discrete elements separated by coded time gaps and hospital transfers. On top of the sequence is a convolutional neural net that detects and combines predictive local clinical motifs to stratify the risk. Deepr permits transparent inspection and visualization of its inner working. We validate Deepr on hospital data to predict unplanned readmission after discharge. Deepr achieves superior accuracy compared to traditional techniques, detects meaningful clinical motifs, and uncovers the underlying structure of the disease and intervention space.

研究动机与目标

• 为解决电子病历（EMR）中特征工程的挑战，该挑战耗时费力且难以适应不同数据结构。
• 通过将时间间隔和住院转移编码为特殊标记，对不规则时间、间歇性病历进行建模，实现序列化表示。
• 从原始 EMR 数据中自动学习具有预测性的临床模式，无需人工特征工程。
• 通过端到端的深度学习架构，提升对非计划性再入院风险的预测能力。
• 通过可视化临床模式和注意力机制，提供透明、可解释的预测说明。

提出的方法

• Deepr 将每份 EMR 表示为可变长度的离散临床事件序列（例如：诊断、操作），事件之间以编码的时间间隔和转移指示符分隔。
• 使用词嵌入将临床事件和时间间隔映射到连续空间中的密集向量表示。
• 应用一维卷积神经网络（CNN）检测序列中的局部模式（模式），例如反复出现的疾病进展或治疗序列。
• 使用最大池化将局部模式特征聚合为全局患者表示向量。
• 将全局表示送入分类器，用于预测未来风险，如6个月内非计划性再入院。
• 所有组件通过反向传播进行端到端训练，实现特征提取与预测的联合优化。

实验结果

研究问题

• RQ1 深度学习模型能否在无需人工特征工程的情况下，从未规则、间歇性的电子病历中自动学习有意义的临床模式？
• RQ2 将时间间隔和转移编码为特殊标记，如何提升在访问时间不固定的电子病历中的风险预测性能？
• RQ3 基于 CNN 的架构能否有效检测出对预测未来健康结局具有预测性的局部临床模式？
• RQ4 Deepr 在预测非计划性再入院方面，相较于传统词袋模型及其他深度学习基线模型，优势有多大？
• RQ5 Deepr 的内部表示能否被有意义地可视化和解释，以揭示潜在的疾病和治疗进展模式？

主要发现

• 在包含 300,000 名患者的数据库上，Deepr 在预测非计划性6个月再入院方面，其预测准确性优于传统词袋模型及其他深度学习基线模型。
• 该模型成功检测到具有临床意义的模式，例如常见的疾病进展序列（如糖尿病发展为肾功能衰竭）和治疗方案。
• Deepr 揭示了疾病和干预空间的内在结构，揭示了患者轨迹中的潜在模式。
• 通过可视化模式响应，系统可实现透明、可解释的预测，支持基于证据的临床决策。
• Deepr 在短病历（如一次或两次就诊）上优于基于 RNN 的模型（如 DeepCare），表现出对记录长度的鲁棒性。
• 该框架具有通用性和可扩展性，可应用于除再入院外的其他风险预测任务，包括疾病发生和进展。