[논문 리뷰] On Exploring the Reasoning Capability of Large Language Models with Knowledge Graphs

Pei-Chi Lo, Yi-Hang Tsai외 2명|arXiv (Cornell University)|2023. 12. 01.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 내부 지식 그래프를 활용하여 대규모 언어 모델(Large Language Models, LLMs)의 추론 능력을 조사하며, LLMs가 맥락에서 사실 지식을 회상하고 다단계 관계를 추론할 수 있음을 입증한다. GPT-4는 맥락 기반 경로 생성에서 더 낮은 환각 현상과 더 높은 문법적 타당성을 보이며 다른 모델들을 압도한다. 또한 다단계 프롬프팅은 추론 정확도를 향상시킨다.

ABSTRACT

This paper examines the capacity of LLMs to reason with knowledge graphs using their internal knowledge graph, i.e., the knowledge graph they learned during pre-training. Two research questions are formulated to investigate the accuracy of LLMs in recalling information from pre-training knowledge graphs and their ability to infer knowledge graph relations from context. To address these questions, we employ LLMs to perform four distinct knowledge graph reasoning tasks. Furthermore, we identify two types of hallucinations that may occur during knowledge reasoning with LLMs: content and ontology hallucination. Our experimental results demonstrate that LLMs can successfully tackle both simple and complex knowledge graph reasoning tasks from their own memory, as well as infer from input context.

연구 동기 및 목표

• LLMs가 사전 훈련된 내부 지식 그래프에서 사실 지식을 회상할 수 있는지 평가하기 위해.
• LLMs가 맥락 입력에서 다단계 지식 그래프 관계를 추론할 수 있는 능력을 평가하기 위해.
• LLM 기반 지식 추론 과정에서 발생하는 두 가지 유형의 환각—내용 환각과 온톨로지 환각—을 식별하고 분류하기 위해.
• 특히 맥락 기반 경로 생성과 같은 복잡한 작업을 위해 구조화된 프롬프팅 전략을 통해 추론 성능을 향상시키기 위해.
• 외부 검색 없이도 비공개 또는 미리보지 않은 지식 기반에 대해 LLM을 활용한 지식 그래프 추론에 기초를 마련하기 위해.

제안 방법

• 세 개의 LLM—text-davinci-003, ChatGPT, GPT-4—를 사용하여 네 가지 지식 그래프 추론 작업을 수행: 꼬리 엔티티 예측, 관계 예측, 관계 추출, 맥락 기반 경로 생성.
• 비맥락 기반 작업(꼬리 엔티티 및 관계 예측)에 대해 제로샷 프롬프팅을 설계하여 LLM의 내부 지식 회상 능력을 테스트하였다.
• 맥락 기반 경로 생성(CPG)을 위한 다단계 프롬프팅 전략을 도입하였으며, 이는 지원 문장 추출, 엔티티 연결, 경로 생성 등의 하위 작업을 포함한다.
• 지식 그래프 소스로 DBPedia를 사용하였고, 꼬리 엔티티 및 관계 예측 작업을 위한 데이터셋을 100개의 삼중항으로 구성하였다.
• NGEO, %IF(불일치), %IV(오류) 등의 지표를 사용하여 모델 성능을 평가하였으며, 최단 경로 및 단순 지시 프롬프팅과 같은 기준 방법과 비교하였다.
• 특히 문법적 타당성이 낮은 모델(예: ChatGPT)의 추론 능력을 향상시키기 위해 AutoCoT(Automatic Chain-of-Thought)를 적용하였다.

Figure 1. An Example of Contextual Path Generation Task. The query entities $(e_{H},e_{T})$ are colored in red in the context document $d$ .

실험 결과

연구 질문

• RQ1 LLMs는 내부 지식 그래프에서 정보를 얼마나 정확하게 회상할 수 있는가?
• RQ2 LLMs는 맥락 입력에서 지식 그래프 관계를 얼마나 잘 추론할 수 있는가?
• RQ3 LLM 기반 지식 추론 과정에서 발생하는 환각 유형—내용 환각 또는 온톨로지 환각—은 무엇인가?
• RQ4 다단계 프롬프팅과 GPT-4와 같은 고급 모델은 맥락 기반 경로 생성에서 추론 성능과 환각 비율에 어떤 영향을 미치는가?

주요 결과

• GPT-4는 맥락 기반 경로 생성에서 NGEO 0.17, %IF 0.10, %IV 0.18을 기록하며 text-davinci-003 및 ChatGPT를 크게 앞서며 최고의 성능을 보였다.
• 다단계 프롬프팅은 text-davinci-003의 추론 품질을 향상시켜 NGEO를 0.37에서 0.29로 낮추었지만, %IV는 여전히 높아 0.30을 기록하였다.
• ChatGPT는 단일 단계 프롬프팅에서 낮은 문법적 타당성(NGEO 0.29, %IF 0.15)을 보였지만, AutoCoT 적용으로 NGEO가 0.25로 감소하고 %IF는 0.14로 하락하여 성능이 향상되었다.
• 내용 환각과 온톨로지 환각이 뚜렷하게 관찰되었으며, 특히 복잡한 작업에서 두드러져 더 나은 프롬프팅 엔지니어링과 외부 검색이 필요함을 시사한다.
• 최단 경로 기준 방법은 가장 높은 문법적 타당성(NGEO 0.43)을 보였지만 맥락 적합성이 떨어져 정확성과 맥락 인식 간의 상충 관계를 드러냈다.
• GPT-4와 같은 LLM은 최소한의 프롬프팅 엔지니어링으로도 간결하고 정확한 출력을 생성하여, 적절히 프롬프팅된 경우 강력한 맥락 기반 추론 능력을 지닌 것으로 나타났다.