[论文解读] Forecasting adverse surgical events using self-supervised transfer learning for physiological signals

Hugh Chen, Scott Lundberg+3 more|arXiv (Cornell University)|Feb 12, 2020

Machine Learning in Healthcare被引用 6

一句话总结

本文提出PHASE，一种自监督迁移学习框架，通过从生理时间序列中提取深度嵌入，提升对不良手术事件的预测性能。PHASE通过在某一数据集上训练可迁移的嵌入表示，并将其应用于未见过的手术或ICU数据，在预测准确率更高、计算成本更低的情况下，优于最先进模型（如在原始数据上训练的LSTM，以及在手工特征上训练的梯度提升树）。

ABSTRACT

Hundreds of millions of surgical procedures take place annually across the world, which generate a prevalent type of electronic health record (EHR) data comprising time series physiological signals. Here, we present a transferable embedding method (i.e., a method to transform time series signals into input features for predictive machine learning models) named PHASE (PHysiologicAl Signal Embeddings) that enables us to more accurately forecast adverse surgical outcomes based on physiological signals. We evaluate PHASE on minute-by-minute EHR data of more than 50,000 surgeries from two operating room (OR) datasets and patient stays in an intensive care unit (ICU) dataset. PHASE outperforms other state-of-the-art approaches, such as long-short term memory networks trained on raw data and gradient boosted trees trained on handcrafted features, in predicting five distinct outcomes: hypoxemia, hypocapnia, hypotension, hypertension, and phenylephrine administration. In a transfer learning setting where we train embedding models in one dataset then embed signals and predict adverse events in unseen data, PHASE achieves significantly higher prediction accuracy at lower computational cost compared to conventional approaches. Finally, given the importance of understanding models in clinical applications we demonstrate that PHASE is explainable and validate our predictive models using local feature attribution methods.

研究动机与目标

• 解决中小型医院在预测不良手术结局时面临的数据有限和计算资源不足的挑战。
• 克服因数据隐私限制而阻碍跨机构敏感电子健康记录（EHR）数据共享的障碍。
• 开发一种可迁移、可解释且计算高效的生理信号预测方法，用于预测不良手术事件。
• 通过共享训练好的嵌入模型而非原始患者数据，实现跨机构协作。
• 在低数据环境下，通过使用原始信号或手工特征，提升预测性能，优于传统方法。

提出的方法

• 在生理信号上训练自监督长短期记忆（LSTM）网络，学习无需不良事件标签的通用嵌入表示。
• 将训练好的LSTM的最终隐藏层作为每个60秒生理数据窗口的200维嵌入向量。
• 通过迁移学习，使用源医院数据集（如OR1或ICU_M）训练的嵌入模型，应用于目标医院数据集（如OR0）而无需重新训练。
• 将嵌入特征与静态患者数据结合，并输入下游梯度提升树（GBT）模型，以最终预测五种不良结局。
• 通过微调实现：使用源域模型初始化目标域LSTM，并在目标数据上继续训练。
• 使用联合训练的多信号LSTM同时预测全部15个生理信号的未来值，学习信号间的共享表示。

实验结果

研究问题

• RQ1 与在原始或手工特征上训练的模型相比，对生理信号进行自监督学习是否能提升不良手术事件预测的准确性？
• RQ2 在未见数据上，使用来自一家医院的预训练嵌入模型进行迁移学习，能在多大程度上提升预测性能？
• RQ3 PHASE框架是否能降低计算资源有限机构的下游预测计算成本？
• RQ4 是否能通过局部特征归因方法（如Shapley值）有效解释模型的预测结果？
• RQ5 与在多个信号上联合训练嵌入表示的单一LSTM相比，PHASE在性能上表现如何？

主要发现

• PHASE在预测五种不良结局（低氧血症、低二氧化碳血症、低血压、高血压及苯肾上腺素给药）方面，显著优于基线模型（在原始数据上训练的LSTM，以及在原始或手工特征上训练的GBT）。
• 使用来自一个数据集（如OR1）训练的嵌入模型应用于另一目标数据集（如OR0）时，即使在训练阶段无法访问目标数据，PHASE的迁移学习仍实现了更高的预测准确率。
• 使用预训练嵌入显著降低了目标医院下游预测的计算成本，因为仅需在目标机构数据上训练最终的GBT模型。
• PHASE在多种数据集上表现出强大的泛化能力，包括两个手术室（OR）数据集和一个ICU数据集，且性能提升一致。
• 通过Shapley值进行的局部特征归因提供了临床可解释的洞察，揭示了哪些生理信号对个体预测贡献最大。
• 联合训练的多信号嵌入模型并未优于单信号自监督模型，表明针对特定信号进行预训练可生成更适合下游预测的表示。