[论文解读] Deep Transfer Learning for Physiological Signals.

Hugh Chen, Scott Lundberg+3 more|arXiv (Cornell University)|Feb 12, 2020

Phonocardiography and Auscultation Techniques参考文献 61被引用 4

一句话总结

PHASE 是一种深度迁移学习框架，通过使用信号特定的LSTM网络学习生理信号的共享低维嵌入，实现在不同医院和科室之间对不良结局的改进预测。该框架在实现优越性能的同时，计算成本更低，成功实现了在多样化临床环境中的知识迁移。

ABSTRACT

Deep learning is increasingly common in healthcare, yet transfer learning for physiological signals (e.g., temperature, heart rate, etc.) is under-explored. Here, we present a straightforward, yet performant framework for transferring knowledge about physiological signals. Our framework is called PHASE (PHysiologicAl Signal Embeddings). It i) learns deep embeddings of physiological signals and ii) predicts adverse outcomes based on the embeddings. PHASE is the first instance of deep transfer learning in a cross-hospital, cross-department setting for physiological signals. We show that PHASE's per-signal (one for each signal) LSTM embedding functions confer a number of benefits including improved performance, successful transference between hospitals, and lower computational cost.

研究动机与目标

• 解决在医院和科室之间生理信号分析中迁移学习的未充分探索挑战。
• 开发一种框架，学习生理信号的共享表征，以改善不良临床结局的预测。
• 实现在具有不同数据分布和信号采集协议的医院之间的知识迁移。
• 在保持或提升下游预测任务模型性能的同时，降低计算成本。

提出的方法

• 训练信号特定的长短期记忆（LSTM）网络，从心率、体温等原始生理信号中学习深度低维嵌入。
• 将学习到的嵌入用作下游预测任务（如不良结局预测）的可迁移表征。
• 在不同医院和科室中应用相同的嵌入函数，实现零样本或少样本迁移学习。
• 在共享嵌入之上训练最终的预测头以预测临床结局，且在微调过程中固定嵌入函数。
• 使用交叉熵损失对框架进行端到端优化，以实现不良事件的分类。
• 通过在不重新训练的情况下，在不同医院和科室的数据上测试相同的嵌入函数，评估其可迁移性。

实验结果

研究问题

• RQ1 基于信号特定的LSTM嵌入是否能有效实现跨不同医院和临床科室的知识迁移？
• RQ2 与从零开始训练的模型相比，使用PHASE的共享嵌入是否能提升不良结局预测的性能？
• RQ3 PHASE在保持或提升模型准确率的同时，能在多大程度上降低计算成本？
• RQ4 所学习的嵌入在面对不同医院间数据分布和信号采集协议差异时，其鲁棒性如何？

主要发现

• 与从零开始训练的基线模型相比，PHASE在不良结局预测方面实现了更优的性能。
• 该框架成功实现了在医院和科室之间的知识迁移，即使在数据分布和信号采集系统不同的情况下也有效。
• PHASE通过在多个预测任务中重用预训练的信号特定嵌入函数，显著降低了计算成本。
• 与通用或跨所有信号共享的嵌入相比，信号特定的LSTM嵌入提供了更优的表征学习能力。
• 该框架展现出强大的零样本迁移能力，即在一所医院学习的嵌入无需微调即可泛化到另一家医院。
• 即使在测试数据来自具有不同监测协议或信号类型的科室时，PHASE仍能保持高性能。