[论文解读] Integration of Domain Knowledge using Medical Knowledge Graph Deep Learning for Cancer Phenotyping

Mohammed Alawad, Shang Gao+10 more|arXiv (Cornell University)|Jan 5, 2021

Biomedical Text Mining and Ontologies参考文献 7被引用 5

一句话总结

本文提出通过将UMLS医学知识图谱中的领域知识融入词嵌入，以提升从病理报告中进行癌症表型识别的性能。通过将UMLS中的语义关系整合到预训练的word2vec嵌入中，该方法增强了上下文表征，使得在90万份病理报告上使用多任务CNN模型时，对低频癌症特征的宏F1分数相对提升了22.5%。

ABSTRACT

A key component of deep learning (DL) for natural language processing (NLP) is word embeddings. Word embeddings that effectively capture the meaning and context of the word that they represent can significantly improve the performance of downstream DL models for various NLP tasks. Many existing word embeddings techniques capture the context of words based on word co-occurrence in documents and text; however, they often cannot capture broader domain-specific relationships between concepts that may be crucial for the NLP task at hand. In this paper, we propose a method to integrate external knowledge from medical terminology ontologies into the context captured by word embeddings. Specifically, we use a medical knowledge graph, such as the unified medical language system (UMLS), to find connections between clinical terms in cancer pathology reports. This approach aims to minimize the distance between connected clinical concepts. We evaluate the proposed approach using a Multitask Convolutional Neural Network (MT-CNN) to extract six cancer characteristics -- site, subsite, laterality, behavior, histology, and grade -- from a dataset of ~900K cancer pathology reports. The results show that the MT-CNN model which uses our domain informed embeddings outperforms the same MT-CNN using standard word2vec embeddings across all tasks, with an improvement in the overall micro- and macro-F1 scores by 4.97\%and 22.5\%, respectively.

研究动机与目标

• 解决标准词嵌入在捕捉临床文本中特定领域关系知识方面的局限性。
• 提升深度学习模型从非结构化病理报告中提取癌症表型的性能。
• 缓解癌症登记系统中某些癌症类型罕见所导致的类别不平衡问题。
• 将来自UMLS的外部医学知识整合到分布式词表示中，以实现更好的语义对齐。
• 评估知识增强嵌入对肿瘤学下游NLP任务的影响。

提出的方法

• 使用大规模癌症病理报告语料库通过word2vec预训练词嵌入。
• 通过整合UMLS中的SNOMED、NCI和ICD10词典构建知识图谱。
• 利用UMLS语义关系对词嵌入进行微调，以缩小概念上相似术语之间的距离（例如，'肾功能衰竭'与'肾脏功能衰竭'）。
• 将增强后的嵌入作为输入，输入到多任务卷积神经网络（MT-CNN）中，联合预测六种癌症表型。
• 通过反向传播端到端训练MT-CNN，同时优化全部六个任务。
• 使用自助法（bootstrapping）获得95%置信区间的微观和宏观F1分数进行性能评估。

实验结果

研究问题

• RQ1 将UMLS知识整合到词嵌入中是否能改善癌症病理报告中文本术语的表征？
• RQ2 知识增强的嵌入是否能提升深度学习模型在提取癌症表型方面的性能？
• RQ3 与标准嵌入相比，该方法在低频癌症特征上的表现如何？
• RQ4 知识整合在多大程度上缓解了癌症表型识别任务中的类别不平衡问题？
• RQ5 使用增强嵌入的多任务CNN是否能优于使用标准word2vec嵌入的基线模型？

主要发现

• 使用UMLS增强嵌入的MT-CNN模型相比基线模型，微观F1分数绝对提升了4.97%（从0.805提升至0.845）。
• 模型在宏观F1分数上实现了22.5%的相对提升（从0.480提升至0.588），表明在低频癌症特征上的表现更强。
• 该方法在高频率和低频类别上均优于基线模型，其中在罕见类别中提升最为显著。
• 使用增强嵌入的模型正确识别了41.66%的病理报告中全部六种癌症特征，而基线模型仅为31.47%。
• 在仅预测部位、侧向性、行为和组织学类型时，该方法的正确表型识别率达到68.89%，而基线模型为62.88%。
• 结果表明，通过UMLS整合外部领域知识可显著增强临床NLP中的表征学习与模型泛化能力。