[论文解读] Embedding Electronic Health Records for Clinical Information Retrieval

Xing Wei, Carsten Eickhoff|arXiv (Cornell University)|Nov 13, 2018

Machine Learning in Healthcare参考文献 12被引用 10

一句话总结

本文提出一种远程监督方法，通过使用ICD编码预测作为代理任务，利用MIMIC-III数据集从EHR病历中训练密集文本嵌入，生成具有临床意义的表示。这些嵌入显著提升了临床信息检索性能，尤其在长篇、上下文相关的查询中表现优异，优于传统信息检索模型，并在与深度相关性匹配模型结合时达到最先进水平。

ABSTRACT

Neural network representation learning frameworks have recently shown to be highly effective at a wide range of tasks ranging from radiography interpretation via data-driven diagnostics to clinical decision support. This often superior performance comes at the price of dramatically increased training data requirements that cannot be satisfied in every given institution or scenario. As a means of countering such data sparsity effects, distant supervision alleviates the need for scarce in-domain data by relying on a related, resource-rich, task for training. This study presents an end-to-end neural clinical decision support system that recommends relevant literature for individual patients (few available resources) via distant supervision on the well-known MIMIC-III collection (abundant resource). Our experiments show significant improvements in retrieval effectiveness over traditional statistical as well as purely locally supervised retrieval models.

研究动机与目标

• 解决在训练有效临床文本嵌入用于信息检索时面临的数据稀缺问题。
• 开发一种方法，利用大量带有ICD编码标注的数据作为代理监督信号，从EHR病历中生成高质量、上下文感知的嵌入。
• 通过捕捉超越词级别表示的语义上下文，提升对长篇临床查询的检索效果。
• 证明在相关分类任务（ICD编码预测）上训练的嵌入能够良好泛化至下游信息检索任务。

提出的方法

• 在MIMIC-III的EHR病历上训练卷积神经网络（CNN），以预测ICD-10诊断编码，输入为预训练词嵌入。
• 从CNN中提取学习到的隐藏层表示，作为完整病历或段落的密集上下文嵌入。
• 使用训练好的嵌入模型将查询和候选文档编码为固定大小的向量以用于检索。
• 将段落嵌入输入深度相关性匹配模型（DRMM），以计算查询与文档对之间的相关性得分。
• 将查询与文档嵌入之间的余弦相似度作为替代或补充的打分函数。
• 结合多种打分方法（DRMM、余弦相似度及集成）以提升整体检索性能。

实验结果

研究问题

• RQ1 像ICD编码预测这样的代理任务是否能有效训练出泛化能力良好的密集文本嵌入，以用于临床信息检索？
• RQ2 与传统IR模型（如BM25）相比，所提出的嵌入方法在检索患者病例相关生物医学文献时表现如何？
• RQ3 嵌入式检索模型的性能是否随更长、更具上下文信息的查询而提升？
• RQ4 在低资源临床检索场景中，使用大型资源丰富数据集（MIMIC-III）进行远程监督是否能有效缓解数据稀缺问题？

主要发现

• 所提出的嵌入模型在TREC-CDS 2016数据集上显著优于传统IR基线（如BM25），集成方法的MAP达到0.2084。
• 仅使用文档嵌入之间的余弦相似度，即在TREC-CDS上实现了最高的P@20（0.2267）和nDCG@20（0.1548），表明其具备强大的语义匹配能力。
• 在Tipster数据集上，集成模型实现了最佳的MAP（0.3573）、P@20（0.4488）和nDCG@20（0.4746），证明其具有强大的泛化能力。
• 使用段落嵌入的DRMM模型（DRMM+para）在两个数据集上均优于BM25，证实了上下文嵌入的价值。
• 该模型在长篇、多段落查询上的表现尤为出色，表明其适用于真实世界的临床决策支持场景。
• 基于ICD编码预测训练的嵌入模型在ICD编码分类任务上达到了20.72%的准确率，验证了其学习临床相关表示的能力。