[论文解读] Effectiveness of LSTMs in Predicting Congestive Heart Failure Onset

Sunil Mallya, J. Marc Overhage+3 more|arXiv (Cornell University)|Feb 7, 2019

Artificial Intelligence in Healthcare参考文献 28被引用 11

一句话总结

本研究提出一种长短期记忆（LSTM）循环神经网络模型，利用来自216,394名患者的纵向电子健康记录（EHR）数据，提前最多15个月预测充血性心力衰竭（CHF）的发病。该模型的受试者工作特征曲线下面积（AUCROC）达到0.9147，优于逻辑回归、随机森林、多层感知机（MLP）和卷积神经网络（CNN）基线模型，证明LSTM在捕捉稀疏、高维EHR数据中的时间模式方面具有优越能力。

ABSTRACT

In this paper we present a Recurrent neural networks (RNN) based architecture that achieves an AUCROC of 0.9147 for predicting the onset of Congestive Heart Failure (CHF) 15 months in advance using a 12-month observation window on a large cohort of 216,394 patients. We believe this to be the largest study in CHF onset prediction with respect to the number of CHF case patients in the cohort and the test set (3,332 CHF patients) on which the AUC metrics are reported. We explore the extent to which LSTM (Long Short Term Memory) based model, a variant of RNNs, can accurately predict the onset of CHF when compared to known linear baselines like Logistic Regression, Random Forests and deep learning based models such as Multi-Layer Perceptron and Convolutional Neural Networks. We utilize demographics, medical diagnosis and procedure data from 21,405 CHF and 194,989 control patients to as our features. We describe our feature embedding strategy for medical diagnosis codes that accommodates the sparse, irregular, longitudinal, and high-dimensional characteristics of EHR data. We empirically show that LSTMs can capture the longitudinal aspects of EHR data better than the proposed baselines. As an attempt to interpret the model, we present a temporal data analysis-based technique on false positives to attribute feature importance. A model capable of predicting the onset of congestive heart failure months in the future with this level of accuracy and precision can support efforts of practitioners to implement risk factor reduction strategies and researchers to begin to systematically evaluate interventions to potentially delay or avert development of the disease with high mortality, morbidity and significant costs.

研究动机与目标

• 开发一种深度学习模型，能够利用纵向EHR数据提前准确预测CHF发病。
• 评估LSTM相较于传统机器学习和深度学习模型在CHF预测中的有效性。
• 通过一种新颖的特征嵌入策略，解决EHR数据中稀疏性、不规则性和高维度的挑战。
• 通过分析假阳性案例并随时间追踪特征重要性，解释模型预测结果。

提出的方法

• 模型使用12个月的EHR数据作为输入，包括人口统计学信息、诊断编码和操作编码。
• 使用可学习的嵌入层对医学诊断编码进行嵌入，以应对高稀疏性和高维度问题。
• 采用双向LSTM架构，捕捉纵向患者记录中的长期时间依赖关系。
• 模型端到端训练，以预测15个月后CHF的发病，损失函数为二元交叉熵。
• 通过在假阳性案例中进行时间序列消融分析，分析特征重要性，以解释模型决策。
• 使用包含216,394名患者（其中3,332例为CHF病例）的大规模队列进行训练和评估，确保度量估计的稳健性。

实验结果

研究问题

• RQ1 LSTM能否有效建模纵向EHR模式，从而比传统模型更准确地预测CHF发病？
• RQ2 所提出的嵌入策略如何应对EHR数据的稀疏性和不规则性？
• RQ3 与逻辑回归、随机森林、MLP和CNN相比，LSTM在CHF预测中的预测性能如何？
• RQ4 对假阳性的时序分析在多大程度上能揭示具有临床意义的特征重要性？
• RQ5 该模型能否在具有高度人口学和临床多样性的大规模真实世界患者队列中实现良好泛化？

主要发现

• LSTM模型在提前15个月预测CHF发病的AUCROC达到0.9147，显著优于所有基线模型。
• 与前馈网络和卷积模型相比，该模型在捕捉EHR数据中的长期时间趋势方面表现出更优性能。
• 所提出的嵌入策略有效应对了纵向EHR数据中诊断编码的高维稀疏特性。
• 对假阳性的时序分析揭示，某些诊断编码和时间窗口对预测错误的贡献更大，从而增强了模型的可解释性。
• 本研究报告了迄今最大的CHF预测队列之一，测试集中确认了3,332例CHF病例，提升了AUCROC度量的可靠性。
• 结果表明，利用LSTM进行早期风险分层可支持临床干预，从而延迟或预防CHF发病。