[论文解读] Time Aggregation and Model Interpretation for Deep Multivariate Longitudinal Patient Outcome Forecasting Systems in Chronic Ambulatory Care

Beau Norgeot, Dmytro Lituiev+2 more|arXiv (Cornell University)|Nov 30, 2018

Machine Learning in Healthcare参考文献 4被引用 4

一句话总结

本研究提出了一种深度学习框架，用于利用时间聚合的多变量纵向电子健康记录（EHR）数据，在慢性门诊护理环境中预测类风湿性关节炎疾病活动度。结果表明，时间分布密集层后接门控循环单元（GRU）的结构可获得最具有泛化能力的模型，并引入了纵向置换重要性分析与混淆图以提升临床可解释性，揭示近期疾病活动度和糖皮质激素使用是关键预测因子。

ABSTRACT

Clinical data for ambulatory care, which accounts for 90% of the nations healthcare spending, is characterized by relatively small sample sizes of longitudinal data, unequal spacing between visits for each patient, with unequal numbers of data points collected across patients. While deep learning has become state-of-the-art for sequence modeling, it is unknown which methods of time aggregation may be best suited for these challenging temporal use cases. Additionally, deep models are often considered uninterpretable by physicians which may prevent the clinical adoption, even of well performing models. We show that time-distributed-dense layers combined with GRUs produce the most generalizable models. Furthermore, we provide a framework for the clinical interpretation of the models.

研究动机与目标

• 识别在具有不规则就诊间隔和小样本量的纵向门诊EHR数据中，深度学习模型的最佳时间聚合策略。
• 通过开发用于深度时间序列模型的可解释性方法，应对临床领域对人工智能的抵触情绪。
• 利用来自两家不同风湿病专科诊所的真实世界EHR数据，评估不同时间聚合架构的预测性能。
• 通过纵向置换重要性评分和模型学习到的患者表征可视化，实现临床可解释性。

提出的方法

• 通过Hyperas实现的贝叶斯优化，比较了六种时间聚合函数：全连接层、时间分布密集层（TDD）后接全连接层、GRU、LSTM、因果卷积和有效填充卷积。
• 将EHR数据聚合为100天的时间窗，每个时间窗内对每个变量选取最新值，以处理不等长的就诊间隔和变量数量不一的数据。
• 在时间窗上使用置换重要性评分，量化每个输入变量（如药物、炎症标志物）对模型性能的贡献。
• 通过混淆图可视化模型学习到的患者表征，以识别不同患者群体中的聚类及潜在混杂因素。
• 在联合大学诊所队列的训练集与验证集上训练模型，以生成最终的全训练模型用于解释。
• 采用Delong方法计算受试者工作特征曲线下面积（AUC）的95%置信区间，以评估性能差异的统计显著性。

实验结果

研究问题

• RQ1 在具有不规则就诊模式的纵向门诊护理中，哪种时间聚合函数能生成最通用且准确的深度学习模型，用于预测患者结局？
• RQ2 如何使深度学习模型对临床医生可解释，特别是在多变量时间序列EHR数据的背景下？
• RQ3 不同临床变量（如药物、实验室值、疾病活动度评分）随时间推移对模型预测的相对贡献是什么？
• RQ4 不同人群之间，模型学习到的患者表征有何差异？这些差异揭示了潜在的临床或社会健康决定因素吗？

主要发现

• 时间分布密集层（TDD）后接GRU的架构在验证集上取得了最高的AUC（0.845，95%置信区间：[0.753, 0.914]），优于其他架构，包括TDD-LSTM（AUC：0.838）和TDD-GRU（AUC：0.845）。
• 纵向置换重要性评分显示，近期时间窗（尤其是最近年份）最具预测性，其中CDAI病史和糖皮质激素处方（如泼尼松）是影响最大的变量。
• 在当前就诊时新增糖皮质激素是疾病控制不佳的强预测因子，提示其可能作为活动性疾病的临床替代指标。
• 在前次就诊时调整或维持疾病修饰抗风湿药物（DMARD）治疗策略也具有高度预测性，表明医生和患者对治疗有效性的综合评估具有重要价值。
• 混淆图显示，大学诊所队列中存在一个由控制组与非控制组混合构成的聚类，提示存在自然过渡区域；而Saftey Net诊所则显示出多个此类聚类，表明可能存在混杂因素。
• Saftey Net队列中存在多个邻近聚类，可能反映了社会健康决定因素的影响，因为该人群以非白人为主，且更少拥有私人保险。