[论文解读] A Deep Learning Pipeline for Patient Diagnosis Prediction Using Electronic Health Records

Leopold Franz, Yash Raj Shrestha+1 more|arXiv (Cornell University)|Jun 23, 2020

Machine Learning in Healthcare参考文献 30被引用 19

一句话总结

本文提出了一种基于电子健康记录（EHR）的深度学习多诊断预测流水线，引入了两种模型——ClinicalBERT_Multi 和 DeepObserver，分别利用临床记录和结构化数据。ClinicalBERT_Multi 在入院后3天内实现早期诊断，预测性能最高，并提供可解释的注意力可视化；而基于FHIR的数据转换工具则实现了跨多种数据集的标准化EHR集成。

ABSTRACT

Augmentation of disease diagnosis and decision-making in healthcare with machine learning algorithms is gaining much impetus in recent years. In particular, in the current epidemiological situation caused by COVID-19 pandemic, swift and accurate prediction of disease diagnosis with machine learning algorithms could facilitate identification and care of vulnerable clusters of population, such as those having multi-morbidity conditions. In order to build a useful disease diagnosis prediction system, advancement in both data representation and development of machine learning architectures are imperative. First, with respect to data collection and representation, we face severe problems due to multitude of formats and lack of coherency prevalent in Electronic Health Records (EHRs). This causes hindrance in extraction of valuable information contained in EHRs. Currently, no universal global data standard has been established. As a useful solution, we develop and publish a Python package to transform public health dataset into an easy to access universal format. This data transformation to an international health data format facilitates researchers to easily combine EHR datasets with clinical datasets of diverse formats. Second, machine learning algorithms that predict multiple disease diagnosis categories simultaneously remain underdeveloped. We propose two novel model architectures in this regard. First, DeepObserver, which uses structured numerical data to predict the diagnosis categories and second, ClinicalBERT_Multi, that incorporates rich information available in clinical notes via natural language processing methods and also provides interpretable visualizations to medical practitioners. We show that both models can predict multiple diagnoses simultaneously with high accuracy.

研究动机与目标

• 解决电子健康记录（EHR）数据格式碎片化且互操作性差的问题，这些问题是医疗领域机器学习应用的主要障碍。
• 通过将MIMIC-III EHR数据集转换为FHIR格式，构建一种通用的数据表示框架，以提升研究兼容性。
• 设计并评估新型深度学习架构，实现对多个诊断代码的高精度联合预测。
• 通过ClinicalBERT_Multi模型中的注意力可视化，提升模型对临床决策支持的可解释性。
• 利用临床记录和结构化数值数据，在入院后3天内实现可靠的早期诊断预测。

提出的方法

• 作者开发了一个Python包，将MIMIC-III EHR数据集映射为平面化的FHIR（Fast Healthcare Interoperability Resources）格式，实现标准化、可互操作的数据访问。
• DeepObserver模型使用一维卷积神经网络（CNN）处理来自Chartevents表的分箱数值时间序列数据，通过多标签分类预测多个诊断代码。
• ClinicalBERT_Multi模型在临床记录上微调ClinicalBERT，采用基于ClinicalBERT论文中公式3的策略，对多个文本块的嵌入进行概率组合。
• 通过可视化模型注意力权重来解释预测结果，高注意力分数集中在临床相关词元上（例如“failure”在“acute respiratory failure”中）。
• 在三个时间点进行诊断预测：入院后3天、6天和12天，评估早期预测的性能。
• 模型在MIMIC-III数据集上进行训练与评估，性能通过多个CCS诊断类别下的AU-PR和AUC指标进行衡量。

实验结果

研究问题

• RQ1 基于FHIR的标准化数据转换流水线是否能提升异构EHR数据集在机器学习研究中的互操作性与可用性？
• RQ2 一种同时处理结构化EHR数据和临床记录的深度学习模型，是否能在多诊断预测中实现高精度？
• RQ3 是否能通过EHR数据上的深度学习可靠地实现入院后3天内的早期诊断预测？
• RQ4 ClinicalBERT_Multi中的注意力可视化在多大程度上能提升对临床决策支持的可解释性？
• RQ5 基于CNN的模型（DeepObserver）与基于Transformer的模型（ClinicalBERT_Multi）在多标签诊断预测中的性能特征有何差异？

主要发现

• ClinicalBERT_Multi在所有模型中表现最佳，AU-PR得分最高，尤其在入院后3天的早期诊断预测中表现突出。
• 该模型在同时预测多个诊断代码方面表现出色，充分利用了临床记录中的丰富文本信息。
• 注意力可视化显示，模型正确聚焦于临床相关术语，如“failure”在“acute respiratory failure”中，显著增强了可解释性。
• DeepObserver仅使用来自Chartevents表的结构化数值数据，未依赖临床记录，也实现了较高的AU-PR得分。
• FHIR转换工具包成功将MIMIC-III数据集转换为标准化、可访问的格式，促进了与其他临床数据集的集成。
• 由于将观测值分箱为8小时时间间隔，两种模型在捕捉高分辨率时间模式方面均存在局限，提示未来工作需采用更高分辨率的建模方法。