[논문 리뷰] From Large Language Models to Knowledge Graphs for Biomarker Discovery in Cancer

Md. Rezaul Karim, Lina Molinas Comet외 4명|arXiv (Cornell University)|2023. 10. 12.

Biomedical Text Mining and OntologiesBiochemistry, Genetics and Molecular Biology인용 수 3

한 줄 요약

이 논문은 암에서 생물표지자 발견을 향상시키기 위해 도메인 특화 온톨로지(OncoNet 온톨로지)로 강화되고 대규모 언어 모델(LLM)을 통해 미세조정된 지식 그래프(KG)를 제안한다. BioBERT 및 SciBERT 기반의 정보 추출기와 LLM으로 미세조정된 업데이트를 통합함으로써, 상호작용형 질문 응답과 상징적 추론을 가능하게 하여 동적 생물의학 지식에서 실체 인식을 향상시키고 개념 이탈을 감소시킨다.

ABSTRACT

Domain experts often rely on most recent knowledge for apprehending and disseminating specific biological processes that help them design strategies for developing prevention and therapeutic decision-making in various disease scenarios. A challenging scenarios for artificial intelligence (AI) is using biomedical data (e.g., texts, imaging, omics, and clinical) to provide diagnosis and treatment recommendations for cancerous conditions.~Data and knowledge about biomedical entities like cancer, drugs, genes, proteins, and their mechanism is spread across structured (knowledge bases (KBs)) and unstructured (e.g., scientific articles) sources. A large-scale knowledge graph (KG) can be constructed by integrating and extracting facts about semantically interrelated entities and relations. Such a KG not only allows exploration and question answering (QA) but also enables domain experts to deduce new knowledge. However, exploring and querying large-scale KGs is tedious for non-domain users due to their lack of understanding of the data assets and semantic technologies. In this paper, we develop a domain KG to leverage cancer-specific biomarker discovery and interactive QA. For this, we constructed a domain ontology called OncoNet Ontology (ONO), which enables semantic reasoning for validating gene-disease (different types of cancer) relations. The KG is further enriched by harmonizing the ONO, metadata, controlled vocabularies, and biomedical concepts from scientific articles by employing BioBERT- and SciBERT-based information extractors. Further, since the biomedical domain is evolving, where new findings often replace old ones, without having access to up-to-date scientific findings, there is a high chance an AI system exhibits concept drift while providing diagnosis and treatment. Therefore, we fine-tune the KG using large language models (LLMs) based on more recent articles and KBs.

연구 동기 및 목표

• 빠르게 변화하는 암 연구 결과로 인한 생물의학 AI 시스템의 개념 이탈 문제를 해결한다.
• 문서, 옴믹스, 임상 데이터 등 이질적인 생물의학 데이터를 통합하여 암 연구를 위한 통합적이고 의미론적으로 풍부한 지식 그래프(KG)를 구축한다.
• 도메인 전문가가 상징적 추론를 사용하여 생물표지자-질병 관계를 검증할 수 있도록 상호작용형 질문 응답(QA)을 가능하게 한다.
• 암에서 유전자-질병 관계의 의미론적 검증을 지원하기 위해 도메인 특화 온톨로지(OncoNet 온톨로지)를 개발한다.
• 대규모 언어 모델(LLM)을 사용해 최근 과학 문헌에서 추출한 사실로 지속적으로 업데이트하여 지식 그래프의 오래된 지식 문제를 완화한다.

제안 방법

• 과학 문헌과 구조화된 지식 기반에서 생물의학 실체(유전자, 단백질, 약물, 질병)를 통합하여 도메인 특화 지식 그래프(KG)를 구축했다.
• 암 관련 실체 간의 의미론적 관계를 모델링하기 위해 OncoNet 온톨로지(ONO)를 설계하여 상징적 추론과 유전자-질병 연관성 검증을 가능하게 하였다.
• 비구조적 생물의학 텍스트에서 명명된 실체 인식(ner), 관계 추출(re), 실체 연결(el)을 위해 BioBERT 및 SciBERT 모델을 활용하였다.
• 최근 과학 논문과 지식 기반으로부터 새로운 사실을 추출하고 통합하기 위해 LLM(예: LLaMA 기반 모델)을 사용해 KG를 미세조정함으로써 개념 이탈을 감소시켰다.
• 논리적 질의(DLQ)로 매핑된 자연어 질의(NLQ)를 통해 지식 그래프에서 추론 규칙를 사용하여 상호작용형 질문 응답(QA)을 구현하였다.
• 연결주의(LLM 기반)와 상징주의(온톨로지 기반) AI를 결합한 신경-상징적 AI 원리를 통합하여 설명 가능성과 지식 검증을 향상시켰다.

실험 결과

연구 질문

• RQ1 어떻게 상호작용형 생물표지자 발견과 질문 응답을 지원하는 지식 그래프를 구축할 수 있는가?
• RQ2 일반 도메인 모델에 비해 도메인 특화 언어 모델(BioBERT, SciBERT)이 생물의학 텍스트에서 실체 인식 및 연결 정확도를 얼마나 향상시킬 수 있는가?
• RQ3 대규모 언어 모델이 최근 과학 문헌에서 추출한 사실로 지식 그래프를 지속적으로 업데이트하고 보완함으로써, 변화가 빠른 생물의학 분야에서의 개념 이탈 문제를 효과적으로 완화할 수 있는가?
• RQ4 도메인 온톨로지 기반의 상징적 추론 통합이 생물표지자-질병 관계 예측의 신뢰성과 해석 가능성에 어떻게 기여하는가?
• RQ5 신경-상징적 AI 접근법을 통합함으로써 온코로지 분야의 AI 기반 진단 및 치료 권고의 설명 가능성과 검증 능력에 어떤 영향을 미치는가?

주요 결과

• BioBERT는 질병 정규화에서 최고의 F1 스코어(91.43%)를 기록했으며, 유전자/단백질 인식에서는 91.36%를 기록하여 SciBERT보다 2.08% 높고, BiLSTM-CRF보다 7.85% 높았다.
• BioBERT는 BERT 평균 대비 F1 스코어를 3.25% 향상시켜 생물의학 텍스트에 특화된 사전학습의 우수성을 입증했다.
• LLM를 사용해 최근 과학 문헌에서 새로운 사실을 성공적으로 추출하고 통합함으로써 지식 그래프의 동적 업데이트가 가능해졌고, 개념 이탈이 감소했다.
• KG는 'POTSF 생물표지자 중 유방암과 관련이 높고 PubMed 증거가 있는 것은 무엇인가?'와 같은 복잡한 질의에 대해 상호작용형 질문 응답을 가능하게 하였다.
• KG에서의 상징적 추론을 통해 도메인 전문가가 논리적 추론 경로를 추적하여 AI 예측을 검증할 수 있었으며, 이는 신뢰도와 해석 가능성 향상에 기여했다.
• LLM과 KG의 통합은 시스템이 변화하는 생물의학 지식에 빠르게 대응할 수 있는 능력을 크게 향상시켰으며, 최신 생물표지자 발견을 보장하였다.