[论文解读] Prediction Using Note Text: Synthetic Feature Creation with word2vec

Manuel Amunategui, Tristan Markwell+1 more|arXiv (Cornell University)|Mar 17, 2015

Machine Learning in Healthcare参考文献 1被引用 6

一句话总结

本文提出使用 word2vec 将非结构化的医疗记录文本转换为医疗风险建模的合成预测特征。通过在 650 MB 的电子病历记录文本上进行训练，作者生成了向量表示，其在预测慢性阻塞性肺病（COPD）患者 30 天再入院风险方面表现与既有的 LACE 评分相当，展示了无需大量自然语言处理专业知识的低代码方法。

ABSTRACT

word2vec affords a simple yet powerful approach of extracting quantitative variables from unstructured textual data. Over half of healthcare data is unstructured and therefore hard to model without involved expertise in data engineering and natural language processing. word2vec can serve as a bridge to quickly gather intelligence from such data sources. In this study, we ran 650 megabytes of unstructured, medical chart notes from the Providence Health & Services electronic medical record through word2vec. We used two different approaches in creating predictive variables and tested them on the risk of readmission for patients with COPD (Chronic Obstructive Lung Disease). As a comparative benchmark, we ran the same test using the LACE risk model (a single score based on length of stay, acuity, comorbid conditions, and emergency department visits). Using only free text and mathematical might, we found word2vec comparable to LACE in predicting the risk of readmission of COPD patients.

研究动机与目标

• 探讨从非结构化临床记录中提取的 word2vec 嵌入向量是否能生成有效的合成特征用于医疗预测。
• 评估基于 word2vec 的特征在预测 COPD 患者 30 天住院再入院风险方面的预测能力。
• 将基于 word2vec 的特征与既有的 LACE 风险评分（临床基准）进行比较。
• 展示一种可扩展的、低代码的方法，用于从电子病历中提取可操作的洞察，而无需深入的自然语言处理工程。

提出的方法

• word2vec 在 Providence Health & Services 的电子病历系统中收集的 650 MB 非结构化医疗记录文本上进行训练。
• 采用两种不同的方法从 word2vec 嵌入向量中生成预测变量：对每份记录的词向量取平均值，以及使用句子级别的向量表示。
• 生成的向量特征被用作 COPD 患者 30 天再入院风险预测模型的输入。
• 使用标准指标评估性能，并与 LACE 风险评分进行比较，后者基于住院时长、病情严重程度、共病情况和急诊就诊次数。
• 研究采用受控的实验设置，word2vec 和 LACE 模型使用相同的数据集和结果指标。

实验结果

研究问题

• RQ1 从自由文本临床记录中提取的 word2vec 嵌入向量能否有效捕捉患者结局的预测信号？
• RQ2 基于 word2vec 的特征在预测 COPD 再入院方面的预测性能与既有的 LACE 风险评分相比如何？
• RQ3 一种简单、基于数学的方法在多大程度上可以替代复杂的自然语言处理流水线用于医疗数据建模？
• RQ4 word2vec 生成的合成特征是否能在无需专家标注或基于规则的系统的情况下实现临床相关性？

主要发现

• 从非结构化医疗记录中提取的 word2vec 嵌入向量在预测 COPD 患者 30 天再入院风险方面，其预测性能与 LACE 风险评分相当。
• 本研究证明，一种简单、无监督的嵌入技术无需人工特征工程即可从自由文本记录中提取临床相关的信息。
• 该方法无需特定领域的语言规则或大量预处理，凸显了其可扩展性和低代码潜力。
• 结果表明，word2vec 可作为非结构化临床文本与医疗领域定量风险建模之间的重要桥梁。