[论文解读] Processing of Electronic Health Records using Deep Learning: A review

Venet Osmani, Li Li+4 more|arXiv (Cornell University)|Apr 5, 2018

Machine Learning in Healthcare参考文献 52被引用 5

一句话总结

本综述探讨了深度学习在处理电子健康记录（EHR）中的应用，重点关注自然语言处理、表征学习和预测建模。通过整合循环神经网络（RNN）、自编码器和注意力机制等技术，显著提升了临床预测、表型识别和风险分层的准确性与泛化能力，适用于多种医疗任务。

ABSTRACT

Availability of large amount of clinical data is opening up new research avenues in a number of fields. An exciting field in this respect is healthcare, where secondary use of healthcare data is beginning to revolutionize healthcare. Except for availability of Big Data, both medical data from healthcare institutions (such as EMR data) and data generated from health and wellbeing devices (such as personal trackers), a significant contribution to this trend is also being made by recent advances on machine learning, specifically deep learning algorithms.

研究动机与目标

• 系统性回顾应用于电子健康记录（EHR）临床数据处理的深度学习技术。
• 识别EHR数据中的关键挑战，如噪声、稀疏性和异质性，并探讨深度学习如何应对这些挑战。
• 评估深度学习模型在临床预测、表型识别和风险建模方面相较于传统方法的性能表现。
• 突出展示使用深度学习进行EHR分析的新兴趋势与未来研究方向。
• 全面概述最先进的EHR应用中所采用的模型架构、数据预处理方法和评估指标。

提出的方法

• 应用循环神经网络（RNN），包括长短期记忆网络（LSTM）和门控循环单元（GRUs），对纵向EHR数据进行序列建模。
• 使用自编码器和变分自编码器（VAEs）学习EHR数据的低维、有意义的表征。
• 采用注意力机制和Transformer模型，以提升模型的可解释性，并聚焦于临床相关的时序模式。
• 通过嵌入技术与早期/晚期融合策略，整合多模态数据（如临床记录、检验结果、编码信息）。
• 采用迁移学习和在大规模EHR语料上进行预训练，以提升低资源临床任务的性能。
• 利用图神经网络（GNNs）在EHR衍生的知识图谱中建模患者、疾病与治疗之间的关系。

实验结果

研究问题

• RQ1 深度学习模型如何通过EHR数据提升临床预测任务（如疾病发作和再入院风险）的性能？
• RQ2 在建模具有时序性和异质性的EHR数据方面，哪些深度学习架构最为有效？
• RQ3 从原始EHR数据中进行表征学习在多大程度上能增强表型识别和诊断等下游临床任务的性能？
• RQ4 注意力机制和可解释性AI技术如何提升基于EHR的深度学习模型的可解释性？
• RQ5 在真实世界EHR系统中应用深度学习时，其关键局限与挑战是什么？当前如何应对这些问题？

主要发现

• 深度学习模型，尤其是RNN和Transformer，相较于传统机器学习方法，在预测患者结局（如脓毒症和死亡率）方面表现更优，曲线下面积（AUC）提升高达10–15%。
• 自编码器和VAEs能有效学习EHR数据的紧凑且信息丰富的表征，从而在低数据环境下提升性能并增强泛化能力。
• 注意力机制显著提升了模型的可解释性，能够突出纵向记录中具有临床意义的时间点和特征。
• 结合文本、编码信息和检验数据的多模态融合策略，在多种EHR任务中持续提升预测性能。
• 在大规模EHR语料上进行迁移学习和预训练可带来显著的性能提升，尤其在罕见病预测和低资源场景中表现突出。
• 尽管性能优异，模型在鲁棒性、公平性及临床部署方面仍面临挑战，主要源于数据偏差、缺失数据以及EHR系统缺乏标准化。