[논문 리뷰] Research Trends for the Interplay between Large Language Models and Knowledge Graphs

Khorashadizadeh Hanieh, Amalia Zahra외 8명|arXiv (Cornell University)|2024. 06. 12.

Topic Modeling인용 수 6

한 줄 요약

본 설문조사는 대형 언어 모델(LLMs)과 지식 그래프(KGs)가 어떻게 상호작용하는지 분석하며, KG-에서 텍스트로의 변환, 온톨로지 생성, 검증, KG 질의 응답을 다루고, 협업 패턴과 향후 연구 방향을 제시합니다.

ABSTRACT

This survey investigates the synergistic relationship between Large Language Models (LLMs) and Knowledge Graphs (KGs), which is crucial for advancing AI's capabilities in understanding, reasoning, and language processing. It aims to address gaps in current research by exploring areas such as KG Question Answering, ontology generation, KG validation, and the enhancement of KG accuracy and consistency through LLMs. The paper further examines the roles of LLMs in generating descriptive texts and natural language queries for KGs. Through a structured analysis that includes categorizing LLM-KG interactions, examining methodologies, and investigating collaborative uses and potential biases, this study seeks to provide new insights into the combined potential of LLMs and KGs. It highlights the importance of their interaction for improving AI applications and outlines future research directions.

연구 동기 및 목표

• LLM과 KG에 관한 기존 설문조사에서의 격차를 식별하고 새로운 관점을 제시한다.
• LLMs가 KG 텍스트와 질의를 설명적으로 생성하는 방법과 온톨로지 생성 및 검증에 어떻게 도움을 줄 수 있는지 살펴본다.
• LLM이 존재하는 상황에서 KG 검증, 일관성 및 사실 확인을 탐구한다.
• LLM 주도 접근법을 통한 KG 완성, 임베딩 및 추론을 조사한다.
• LLM-KG 상호작용의 분류체계를 제안하고 향후 개방 과제 및 연구 방향을 개략한다.

제안 방법

• LLM-KG 상호작용에 대한 구조적 문헌분석.
• 상호작용을 세 가지 유형으로 분류: KG를 위한 LLM, KG-강화 LLM, LLM-KG 협력.
• KG-텍스트 변환, 온톨로지 추출/검증, KG 완성/임베딩 방법에 대한 연구조사를 한다.
• LLM 보조 KG 작업에서의 편향, 잘못된 정보 위험, 신뢰성 고려사항에 대해 논의한다.
• 개방형 과제의 합성과 제시된 향후 연구 방향을 제시한다.

Figure 1: The interplay between LLMs and KGs categorization

실험 결과

연구 질문

• RQ1 LLM을 이용하여 KG의 엔티티에 대한 기술적 텍스트 정보를 생성하려면 어떻게 활용할 수 있는가?
• RQ2 개념/관계 추출, 보강, 정렬 및 텍스트-온톨로지 매핑 등 온톨로지 생성 및 관련 작업에 LLM을 어떻게 활용할 수 있는가?
• RQ3 KG 내 불일치를 탐지하고 사실 확인을 개선하여 정확성과 완전성을 높이기 위해 LLM이 어떻게 도움을 줄 수 있는가?
• RQ4 사실 확인 및 검증 방법론을 통해 KG의 정확성, 일관성 및 완전성을 어떻게 향상시킬 수 있는가?
• RQ5 텍스트에서 자연어 질의를 생성하고(KG 질의 응답 지원) 텍스트-에서 SPARQL/Cypher로의 변환에 LLM을 어떻게 효과적으로 사용할 수 있는가?
• RQ6 LLM이 KG 질의 응답에 대해 정확한 답을 제시하는 데 어떻게 기여할 수 있는가?

주요 결과

• LLM-KG 상호작용의 삼분법 분류가 존재한다: KG를 위한 LLM, KG-강화 LLM, 그리고 LLM-KG 협력.
• KG-텍스트 변환은 인코더 수정, 텍스트 선형화, 그래프 주의 표현 등을 통해 설명적인 KG 텍스트를 생성하기 위한 연구가 탐구된다.
• LLM를 통한 온톨로지 생성 및 보강에는 개념/관계 추출, 속성 식별, 정렬, 텍스트-온톨로지 매핑이 포함된다.
• KG 완성 및 임베딩은 텍스트 기반 LLM 접근 방식(KG-BERT, GenKGC, SimKGC)과 비미세조정 전략(KICGPT)으로부터 이점을 얻는다.
• LLM을 이용한 사실 확인 및 불일치 탐지가 논의되며, 잘못된 정보의 위험성과 환각을 줄이기 위한 외부 지식이나 도구의 필요성이 강조된다.
• LLMs는 KG 추론을 위한 엔티티 추출, 관계 추출 및 규칙 생성의 향상 가능성을 제공하나 계산 자원과 편향 문제에 직면한다.

Figure 2: LLMs and KGs used in papers