[论文解读] Prediction of the onset of cardiovascular diseases from electronic health records using multi-task gated recurrent units

Fernando Andreotti, Frank S. Heldt+9 more|arXiv (Cornell University)|Jul 16, 2020

Machine Learning in Healthcare被引用 7

一句话总结

本研究提出一种结合注意力机制的多任务门控循环单元（MT-GRU），用于从纵向电子健康记录（EHR）中预测缺血性卒中和心肌梗死的发病时间，覆盖多个时间预测范围。该模型在预测性能上优于QRISK和基线机器学习模型，在12个月预测时间点的AUC分别达到0.85（卒中）和0.89（心肌梗死），并通过多任务学习显著提升了短期预测效果。

ABSTRACT

In this work, we propose a multi-task recurrent neural network with attention mechanism for predicting cardiovascular events from electronic health records (EHRs) at different time horizons. The proposed approach is compared to a standard clinical risk predictor (QRISK) and machine learning alternatives using 5-year data from a NHS Foundation Trust. The proposed model outperforms standard clinical risk scores in predicting stroke (AUC=0.85) and myocardial infarction (AUC=0.89), considering the largest time horizon. Benefit of using an \\gls{mt} setting becomes visible for very short time horizons, which results in an AUC increase between 2-6%. Further, we explored the importance of individual features and attention weights in predicting cardiovascular events. Our results indicate that the recurrent neural network approach benefits from the hospital longitudinal information and demonstrates how machine learning techniques can be applied to secondary care.

研究动机与目标

• 利用纵向EHR数据提升心血管疾病（CVD）发病预测的准确性，超越标准临床风险评分。
• 评估多任务学习在多个时间预测范围（1个月至>12个月）内建模CVD风险的表现。
• 评估多种EHR模态（诊断、检验结果、生命体征、药物、操作）对预测性能的贡献，超越传统风险因素。
• 通过特征重要性和注意力权重解释模型决策，识别具有临床意义的历史观察数据。

提出的方法

• 训练一种多任务门控循环单元（MT-GRU），同时在多个时间预测范围内预测卒中和心肌梗死（MI）的发病时间。
• 在MT-GRU中集成注意力机制，以动态加权患者EHR历史中不同观察日的重要性。
• 将EHR数据表示为每日特征向量，整合连续变量的中位数、平均绝对偏差、观测次数及异常标志。
• 处理异构的EHR模态：ICD-10诊断编码、OPCS-4操作编码、BNF药物编码、LIMS检验结果、生命体征及人口统计学数据。
• 使用置换特征重要性与注意力权重解释模型预测，识别关键特征与历史时间点。
• 通过AUC在多个时间预测范围内评估模型性能，并与QRISK2及基线机器学习模型进行比较。

实验结果

研究问题

• RQ1 与标准临床风险评分相比，结合注意力机制的多任务RNN是否能提升在不同时间预测范围内的卒中和心肌梗死发病预测准确性？
• RQ2 不同EHR模态（尤其是检验结果和生命体征）在超越传统风险因素的基础上，对预测性能的贡献如何？
• RQ3 多任务学习是否能提升模型性能，特别是在数据更稀缺的短期预测中？
• RQ4 通过注意力权重与特征重要性揭示，哪些历史EHR观察与特征对模型预测决策最具影响力？

主要发现

• MT-Att-GRU模型在12个月预测时间点对心肌梗死的AUC达到0.89，对卒中的AUC达到0.85，优于QRISK和基线模型。
• 多任务学习在极短时间预测范围（如1个月）内带来2–6%的AUC提升，表明其在数据稀缺环境中的优势。
• 模型识别出诊断编码和操作编码为高度重要的预测因子，同时检验结果与生命体征也具有额外预测价值。
• 注意力权重显示，模型不仅关注近期数据，也关注历史上具有重要意义的观察日期，而非仅依赖最新数据。
• 置换特征重要性确认，年龄、收缩压、BMI和胆固醇水平为最具影响力的特征，与临床标准一致。
• 注意力机制虽未显著提升AUC，但为模型的时间决策过程提供了可解释的洞察。