[논문 리뷰] On the Evolution of Knowledge Graphs: A Survey and Perspective

Xuhui Jiang, Chengjin Xu외 7명|arXiv (Cornell University)|2023. 10. 07.

Cognitive Computing and Networks인용 수 6

한 줄 요약

이 종합적 서베이는 지식 그래프가 정적에서 동적, 시간적, 사고 중심 형태로 진화하는 과정을 종합적으로 제시하며, 이에 따른 지식 추출 및 추론 기법을 분석한다. 이는 사실 정확성, 시간적 추론, 지식의 완전성 등의 한계를 극복하기 위해 대규모 언어 모델(Large Language Models, LLMs)을 지식 그래프와 통합할 것을 제안하며, 향후 AI 시스템에서 상호보완적 잠재력을 강조한다.

ABSTRACT

Knowledge graphs (KGs) are structured representations of diversified knowledge. They are widely used in various intelligent applications. In this article, we provide a comprehensive survey on the evolution of various types of knowledge graphs (i.e., static KGs, dynamic KGs, temporal KGs, and event KGs) and techniques for knowledge extraction and reasoning. Furthermore, we introduce the practical applications of different types of KGs, including a case study in financial analysis. Finally, we propose our perspective on the future directions of knowledge engineering, including the potential of combining the power of knowledge graphs and large language models (LLMs), and the evolution of knowledge extraction, reasoning, and representation.

연구 동기 및 목표

• 정적 지식 그래프에서 동적, 시간적, 사고 중심 형태로의 지식 그래프 진화를 체계적으로 검토하는 것.
• 각 유형의 진화 지식 그래프에 맞춰진 지식 추출 및 추론 기법을 분석하고 분류하는 것.
• 금융 분석 사례 연구를 포함한 지식 그래프의 실용적 응용을 탐색하는 것.
• 특히 지식 그래프와 대규모 언어 모델(LLMs)의 통합을 포함한 지식 공학 분야의 향후 연구 방향을 규명하는 것.

제안 방법

• 지식 그래프를 정적(SKG), 동적(DKG), 시간적(TKG), 사고 중심(EKG)의 네 유형으로 분류하고, 공식 정의와 표기법을 제시한다.
• 이름 있는 실체 인식(NER), 관계 추출, 사고 추출 등의 지식 추출 기법을 검토하며, 진화하는 지식 그래프 유형에 적응된 방식을 강조한다.
• 정적(SKGR), 동적(DKGR), 시간적(TKGR) 추론으로 나누어 지식 추론 방법을 분류하고, 완전성과 시의성 향상을 위한 진화하는 방법론을 제시한다.
• 이중 방향 통합 프레임워크를 제안: LLMs를 통한 자동 지식 그래프 구축 및 품질 제어, 지식 그래프를 통한 LLM 추론 향상 및 환각 감소.
• LLMs의 과제를 분석: 시간적 망각, 평균화, 낮은 校정 정확도 등과 비교하여, 시간 민감성 및 사고 중심 사실 처리에서 TKG 및 EKG의 강점을 대비한다.
• 향후 연구 방향을 요약: 신경-기호 추론, 그래프 신경망 통합, LLMs를 위한 개선된 지식 인코딩 전략.

실험 결과

연구 질문

• RQ1 정적, 동적, 시간적, 사고 중심 지식 그래프의 구조적 및 기능적 특성은 어떻게 상이하며, 그들의 진화를 이끄는 요인은 무엇인가?
• RQ2 각 진화 지식 그래프 유형에 적합한 핵심 지식 추출 기법은 무엇이며, NLP 및 LLM의 발전과 함께 어떻게 진화해 왔는가?
• RQ3 지식 추론 방법은 진화 지식 그래프의 동적 및 시간적 특성에 어떻게 적응하는가? 현재 접근법의 한계는 무엇인가?
• RQ4 LLMs가 시간적 및 사고 중심 지식을 처리할 때 겪는 주요 과제는 무엇이며, 지식 그래프가 이러한 문제를 어떻게 완화할 수 있는가?
• RQ5 지식 그래프와 대규모 언어 모델 간의 통합 패턴 중 사실 정확성, 추론 능력, 확장성 향상에 가장 유망한 것은 무엇인가?

주요 결과

• 지식 그래프는 초기 시스템의 시의성 및 완전성 한계를 해결하기 위해 정적 표현에서 동적, 시간적, 사고 중심 형태로 진화하였다.
• 대규모 언어 모델의 등장과 함께 지식 추출 기법이 크게 발전하여 비구조화된 텍스트에서 더 효율적이고 확장 가능한 비지도 지식 획득이 가능해졌다.
• 시간 지식 그래프(TKGs)는 명시적인 시간 주석을 통해 시간 민감성 사실 처리에서 LLM보다 뛰어나며, 시간적 망각 및 낮은 校정 정확도 문제를 줄인다.
• 사고 지식 그래프(EKGs)는 사고 간의 인과관계 및 시간적 관계를 모델링하는 데 필수적이며, LLM이 비구조화된 사고 데이터 부족으로 인해 현재 이 기능에서 뒤처지고 있다.
• LLMs는 역사적 또는 시간 제약이 있는 사실에 대해 추론할 경우 사실 일관성에 심각한 과제를 겪는데, 이는 충돌 정보의 평균화와 지식의 쇠퇴 때문이기 때문이다.
• 지식 그래프와 LLM의 통합은 상호보완적 길을 제시한다: LLM은 지식 그래프 구축과 품질 제어를 향상시키고, 지식 그래프 역시 LLM의 추론 능력을 향상시키며 환각을 줄이고, 더 신뢰할 수 있는 추론을 위한 구조화된 지식 기반을 제공한다.