[论文解读] From Large Language Models to Knowledge Graphs for Biomarker Discovery in Cancer

Md. Rezaul Karim, Lina Molinas Comet+4 more|arXiv (Cornell University)|Oct 12, 2023

Biomedical Text Mining and OntologiesBiochemistry, Genetics and Molecular Biology被引用 3

一句话总结

本文提出了一种结合领域特定本体（OncoNet 本体）并利用大语言模型（LLMs）微调的知识图谱（KG），以提升癌症生物标志物发现的性能。通过整合基于 BioBERT 和 SciBERT 的信息抽取模块与经 LLM 微调的更新机制，该系统支持交互式问答与符号推理，显著提升了实体识别能力，并减少了动态生物医学知识中的概念漂移现象。

ABSTRACT

Domain experts often rely on most recent knowledge for apprehending and disseminating specific biological processes that help them design strategies for developing prevention and therapeutic decision-making in various disease scenarios. A challenging scenarios for artificial intelligence (AI) is using biomedical data (e.g., texts, imaging, omics, and clinical) to provide diagnosis and treatment recommendations for cancerous conditions.~Data and knowledge about biomedical entities like cancer, drugs, genes, proteins, and their mechanism is spread across structured (knowledge bases (KBs)) and unstructured (e.g., scientific articles) sources. A large-scale knowledge graph (KG) can be constructed by integrating and extracting facts about semantically interrelated entities and relations. Such a KG not only allows exploration and question answering (QA) but also enables domain experts to deduce new knowledge. However, exploring and querying large-scale KGs is tedious for non-domain users due to their lack of understanding of the data assets and semantic technologies. In this paper, we develop a domain KG to leverage cancer-specific biomarker discovery and interactive QA. For this, we constructed a domain ontology called OncoNet Ontology (ONO), which enables semantic reasoning for validating gene-disease (different types of cancer) relations. The KG is further enriched by harmonizing the ONO, metadata, controlled vocabularies, and biomedical concepts from scientific articles by employing BioBERT- and SciBERT-based information extractors. Further, since the biomedical domain is evolving, where new findings often replace old ones, without having access to up-to-date scientific findings, there is a high chance an AI system exhibits concept drift while providing diagnosis and treatment. Therefore, we fine-tune the KG using large language models (LLMs) based on more recent articles and KBs.

研究动机与目标

• 解决由于癌症研究进展迅速导致的生物医学 AI 系统中概念漂移的问题。
• 将异构生物医学数据——包括文本、组学数据与临床数据——整合为统一的、语义丰富的知识图谱（KG），以支持癌症研究。
• 使领域专家能够通过符号推理执行交互式问答（QA）并验证生物标志物-疾病关系。
• 开发一个领域特定本体（OncoNet 本体），以支持癌症中基因-疾病关系的语义验证。
• 通过利用大语言模型（LLMs）从最新科学文献中持续提取事实，动态更新知识图谱，以缓解知识图谱中的过时知识问题。

提出的方法

• 通过整合来自科学文献和结构化知识库的生物医学实体（如基因、蛋白质、药物、疾病）构建了领域特定的知识图谱（KG）。
• 设计了 OncoNet 本体（ONO），用于建模癌症相关实体之间的语义关系，支持符号推理与基因-疾病关联的验证。
• 采用 BioBERT 和 SciBERT 模型对非结构化生物医学文本进行命名实体识别（NER）、关系抽取（RE）与实体链接（EL）。
• 利用大语言模型（如基于 LLaMA 的模型）对知识图谱进行微调，从近期科学论文和知识库中提取并整合新事实，从而减少概念漂移。
• 通过将自然语言查询（NLQs）映射为逻辑查询（DLQs），在知识图谱上使用推理规则实现交互式问答（QA）。
• 通过结合连接主义（基于 LLM）与符号主义（基于本体）AI 的神经符号 AI 原理，提升可解释性与知识验证能力。

实验结果

研究问题

• RQ1 如何构建一个知识图谱，以支持癌症研究中的交互式生物标志物发现与问答？
• RQ2 与通用领域模型相比，领域特定语言模型（BioBERT、SciBERT）在生物医学文本中的实体识别与链接准确性上能提升多少？
• RQ3 大语言模型能否有效用于从最新科学文献中提取并更新知识图谱，从而缓解动态生物医学领域中的概念漂移问题？
• RQ4 通过领域本体实现的符号推理在多大程度上提升了生物标志物-疾病关系预测的可靠性与可解释性？
• RQ5 结合神经符号 AI 方法对肿瘤学中 AI 驱动的诊断与治疗建议的可解释性与验证能力有何影响？

主要发现

• BioBERT 在疾病标准化任务中取得最高 F1 分数（91.43%），在基因/蛋白质识别任务中达到 91.36%，分别优于 SciBERT 2.08% 和 BiLSTM-CRF 7.85%。
• 与 BERT 相比，BioBERT 平均 F1 分数提升 3.25%，证明了在生物医学文本上进行领域特定预训练的优势。
• 成功利用 LLM 从最新科学文献中提取并整合新事实，实现了知识图谱的动态更新，有效缓解了概念漂移问题。
• 该知识图谱支持对复杂查询的交互式问答，例如：'哪种 POTSF 生物标志物在乳腺癌中具有高度责任性，并有 PubMed 证据支持？'
• 在知识图谱上进行符号推理使领域专家能够通过追踪逻辑推理路径验证 AI 预测，从而增强信任度与可解释性。
• 将 LLM 与知识图谱集成显著提升了系统跟上不断演化的生物医学知识的能力，确保了生物标志物发现的时效性。