[论文解读] Modeling Irregularly Sampled Clinical Time Series

Satya Narayan Shukla, Benjamin M. Marlin|arXiv (Cornell University)|Dec 3, 2018

Machine Learning in Healthcare参考文献 9被引用 8

一句话总结

本文提出插值-预测网络（Interpolation-Prediction Networks），一种深度学习框架，通过首先使用半参数插值网络重建多变量临床时间序列中的缺失值，再通过预测网络完成下游任务，从而对不规则采样的多变量临床时间序列进行建模。该方法在MIMIC-III数据集上的死亡率和住院时长预测任务中达到最先进性能，优于先前的模型，包括基于GRU的基线模型。

ABSTRACT

While the volume of electronic health records (EHR) data continues to grow, it remains rare for hospital systems to capture dense physiological data streams, even in the data-rich intensive care unit setting. Instead, typical EHR records consist of sparse and irregularly observed multivariate time series, which are well understood to present particularly challenging problems for machine learning methods. In this paper, we present a new deep learning architecture for addressing this problem based on the use of a semi-parametric interpolation network followed by the application of a prediction network. The interpolation network allows for information to be shared across multiple dimensions during the interpolation stage, while any standard deep learning model can be used for the prediction network. We investigate the performance of this architecture on the problems of mortality and length of stay prediction.

研究动机与目标

• 解决在电子病历中稀疏且不规则采样的多变量临床时间序列上训练监督机器学习模型的挑战。
• 克服标准模型假设输入为固定大小且完全观测的局限性，实现对不规则数据的端到端学习。
• 开发一种模块化架构，将插值与预测分离，提升可解释性与性能。
• 通过多时间尺度表示显式建模瞬态成分与观测强度模式。
• 在真实世界电子病历数据上，超越现有深度学习与传统机器学习基线模型，在临床预测任务中表现更优。

提出的方法

• 该模型使用两层半参数插值网络：第一层对每个时间序列进行基于径向基函数的单变量插值，使用学习得到的带宽。
• 第二层通过学习到的相关系数将所有时间序列的信息进行融合，实现在插值过程中跨序列的信息共享。
• 插值网络输出三种不同的表示：平滑信号、瞬态成分与观测强度函数，每种表示捕捉不同的时间动态。
• 这些表示被拼接后输入标准深度学习预测网络（如前馈网络或RNN），用于下游分类或回归任务。
• 整个架构通过结合监督与无监督损失的复合损失函数进行端到端训练，实现插值与预测的联合优化。
• 该插值机制避免了高斯过程带来的计算与结构约束，同时保持灵活性与表达能力。

实验结果

研究问题

• RQ1 半参数插值网络能否有效重建稀疏且不规则采样的多变量时间序列，以支持临床预测？
• RQ2 与标准插补方法相比，分别建模瞬态成分与观测强度是否能提升预测性能？
• RQ3 端到端训练的插值-预测网络能否在死亡率与住院时长预测任务中超越现有深度学习基线模型？
• RQ4 插值与预测组件的模块化设计如何影响在不规则电子病历数据上的性能与泛化能力？
• RQ5 所提出方法在真实临床数据集（如MIMIC-III）中对类别不平衡与高稀疏性是否具有鲁棒性？

主要发现

• 在死亡率预测任务中，该模型取得了0.853 ± 0.007的最高AUC分数，显著优于次佳基线模型（GRU-D为0.835 ± 0.013，p < 0.01）。
• 在AUPRC指标上，该模型达到0.418 ± 0.022，显著高于最佳基线模型（GRU-S为0.376 ± 0.014），表明在类别不平衡数据上表现更优。
• 在住院时长预测任务中，该模型实现了2.862 ± 0.166天的最低中位绝对误差，优于GRU-D（2.891 ± 0.103）及其他基线模型。
• 该模型还取得了0.245 ± 0.019的最高解释方差（EV）分数，表明在回归任务中更好地捕捉了数据的方差。
• 配对t检验证实，除中位绝对误差外，所有指标的性能提升均具有统计显著性（p < 0.01）。
• 消融研究证实，插值网络输出的三个部分（平滑信号、瞬态成分、强度函数）均对最终性能有贡献，验证了多通道分解设计的有效性。