[论文解读] Neural Temporal Point Processes For Modelling Electronic Health Records

Joseph Enguehard, Dan Busbridge+3 more|arXiv (Cornell University)|Jul 27, 2020

3D Shape Modeling and Analysis参考文献 63被引用 7

一句话总结

本文提出神经时间点过程（Neural Temporal Point Processes, Neural TPPs），将电子健康记录（EHRs）建模为不规则、多模态的事件序列，通过神经网络联合建模事件发生时间和标签。该方法在合成数据和基准EHR数据上显著优于非TPP模型，其基于注意力机制的变体还提供了临床决策支持所需的可解释性。

ABSTRACT

The modelling of Electronic Health Records (EHRs) has the potential to drive more efficient allocation of healthcare resources, enabling early intervention strategies and advancing personalised healthcare. However, EHRs are challenging to model due to their realisation as noisy, multi-modal data occurring at irregular time intervals. To address their temporal nature, we treat EHRs as samples generated by a Temporal Point Process (TPP), enabling us to model what happened in an event with when it happened in a principled way. We gather and propose neural network parameterisations of TPPs, collectively referred to as Neural TPPs. We perform evaluations on synthetic EHRs as well as on a set of established benchmarks. We show that TPPs significantly outperform their non-TPP counterparts on EHRs. We also show that an assumption of many Neural TPPs, that the class distribution is conditionally independent of time, reduces performance on EHRs. Finally, our proposed attention-based Neural TPP performs favourably compared to existing models, whilst aligning with real world interpretability requirements, an important step towards a component of clinical decision support systems.

研究动机与目标

• 为解决使用原则性概率框架建模噪声大、不规则、多模态EHRs的挑战。
• 通过将纵向记录视为时间点过程（Temporal Point Process, TPP）的实现，改进EHR建模。
• 开发TPP的神经网络参数化方法（即Neural TPPs），以联合建模时间与事件标签。
• 在通过Synthea生成的合成EHR和既定的TPP基准上评估性能。
• 通过引入与现实世界临床决策支持需求对齐的注意力机制，确保临床可解释性。

提出的方法

• 将EHRs视为时间点过程（TPP）的实现，建模事件发生的条件强度λ∗m(t)。
• 使用神经网络参数化条件强度函数，实现对事件动态的灵活、非线性建模。
• 通过多类别或多标签对数似然目标联合建模事件时间和标签，捕捉时间与标签演化之间的依赖关系。
• 在一种模型变体中引入注意力机制，为过去事件提供可解释的注意力权重。
• 使用Synthea模拟器生成的合成EHRs，以实现可控评估并保障数据隐私。
• 采用将性能分解为时间准确率和标签准确率两部分的指标进行模型评估。

实验结果

研究问题

• RQ1 与条件独立建模相比，联合建模事件时间和标签是否能提升EHR表示性能？
• RQ2 Neural TPPs在合成EHR和真实世界EHR基准上是否均优于非TPP基线模型？
• RQ3 在EHR数据上，事件类别分布与时间条件独立的假设如何影响模型性能？
• RQ4 Neural TPP中引入的注意力机制能否同时实现高性能与临床可解释的注意力权重？
• RQ5 目前常用的TPP基准数据集是否真正具有挑战性，还是可被时间无关模型轻易解决？

主要发现

• 联合建模时间与标签的Neural TPPs显著优于将标签视为与时间条件独立的模型。
• 在EHR数据上，事件类别分布与时间条件独立的假设导致性能下降，表明该假设在此情境下不成立。
• 在合成EHR上，TPP模型优于非TPP模型，但部分标准TPP基准可被时间无关模型轻易解决。
• 所提出的基于注意力机制的Neural TPP在实现良好性能的同时，提供了对过去事件的可解释注意力，支持临床决策支持系统的集成。
• 将性能分解为时间准确率和标签准确率的指标，对评估带标签EHR数据上的TPP模型至关重要。
• 本研究揭示了由于医学知识非平稳性导致的模型漂移风险，以及预测性医疗模型在医疗可及性和患者自主权方面可能带来的伦理影响。