[논문 리뷰] Unifying Large Language Models and Knowledge Graphs: A Roadmap

Shirui Pan, Linhao Luo외 4명|arXiv (Cornell University)|2023. 06. 14.

Topic Modeling참고 문헌 257인용 수 100

한 줄 요약

논문은 KG-enhanced LLMs, LLM-augmented KGs, 및 시너지화된 LLMs + KGs로 LLM과 지식 그래프를 통합하기 위한 세 가지 프레임워크 로드맵을 제시하며, 상세한 분류 및 향후 방향을 포함한다.

ABSTRACT

Large language models (LLMs), such as ChatGPT and GPT4, are making new waves in the field of natural language processing and artificial intelligence, due to their emergent ability and generalizability. However, LLMs are black-box models, which often fall short of capturing and accessing factual knowledge. In contrast, Knowledge Graphs (KGs), Wikipedia and Huapu for example, are structured knowledge models that explicitly store rich factual knowledge. KGs can enhance LLMs by providing external knowledge for inference and interpretability. Meanwhile, KGs are difficult to construct and evolving by nature, which challenges the existing methods in KGs to generate new facts and represent unseen knowledge. Therefore, it is complementary to unify LLMs and KGs together and simultaneously leverage their advantages. In this article, we present a forward-looking roadmap for the unification of LLMs and KGs. Our roadmap consists of three general frameworks, namely, 1) KG-enhanced LLMs, which incorporate KGs during the pre-training and inference phases of LLMs, or for the purpose of enhancing understanding of the knowledge learned by LLMs; 2) LLM-augmented KGs, that leverage LLMs for different KG tasks such as embedding, completion, construction, graph-to-text generation, and question answering; and 3) Synergized LLMs + KGs, in which LLMs and KGs play equal roles and work in a mutually beneficial way to enhance both LLMs and KGs for bidirectional reasoning driven by both data and knowledge. We review and summarize existing efforts within these three frameworks in our roadmap and pinpoint their future research directions.

연구 동기 및 목표

• LLMs와 KGs를 통합하고 서로 보완하는 강점을 활용하기 위한 미래지향적 로드맵 제안.
• 각 통합 프레임워크 내의 기존 연구에 대한 세밀한 분류 및 검토를 제공.
• 다중모달 지식 그래프 및 최첨단 모델을 포함한 LLM과 KG의 발전을 요약.
• 도전과제를 강조하고 향후 연구를 위한 유망한 방향을 제시.

제안 방법

• LLMs와 KGs를 통합하기 위한 세 가지 일반 프레임워크 정의: KG-enhanced LLMs, LLM-augmented KGs, 및 Synergized LLMs + KGs.
• 각 프레임워크 내에서 미세한 분류 개발(사전 학습, 추론, 해석 가능성; 임베딩, 완성, 구성, KG-텍스트 변환, QA; 지식 표현 및 추론).
• 지식 통합 기술, 프롬프트, 검색 및 명령-조정(instruction-tuning) 전반에 걸친 기존 방법과 분류체계의 검토.
• 현장의 후속 연구를 이끌기 위한 도전과제와 향후 연구 방향을 종합.

실험 결과

연구 질문

• RQ1 사실 왜곡(hallucination)과 해석 가능성 문제를 극복하기 위해 지식 그래프와 대형 언어 모델을 어떻게 통합할 수 있을까?
• RQ2 사전 학습, 추론 및 명령 조정(instruction-tuning) 중 KG 구조를 가장 잘 활용하는 통합 전략은 무엇인가?
• RQ3 임베딩, 완성, 구성 및 KG-텍스트 생성과 같은 KG 작업에서 LLM이 어떻게 보강할 수 있는가?
• RQ4 양방향 추론에서 LLM과 KG의 시너지화를 위한 주요 도전과제와 향후 방향은 무엇인가?

주요 결과

• LLMs와 KGs를 통합하기 위한 세 가지 프레임워크를 갖춘 구조화된 로드맵 제시.
• 각 프레임워크 내 연구의 미세한 분류체계를 제시하고 대표적 방법을 요약.
• 최신 LLM 및 발전하고 있는 KG를 논의하며, 다중모달 지식 그래프를 포함한다.
• 지식 갱신, 해석 가능성, 제로샷 전이와 같은 도전과제를 식별하고 향후 연구 방향을 제안.