[논문 리뷰] Right for Right Reasons: Large Language Models for Verifiable Commonsense Knowledge Graph Question Answering

Armin Toroghi, Willis Guo외 2명|arXiv (Cornell University)|2024. 03. 03.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 지식 그래프 삼중항과 공리적으로 표면화된 내재된 공리적 일반지식을 통해 모든 추론 단계를 기반으로 하는 검증 가능한 일반지식 지식 그래프 질의 응답 프레임워크인 $R^{3}$을 제안한다. 이는 기존의 LLM 기반 방법에 비해 추론 오류와 환각 현상을 크게 줄이며, 특히 희귀 엔티티에 대해서도 정확도와 검증 가능성을 향상시킨다. 질문 응답, 진술 검증, 선호도 매칭 작업 전반에 걸쳐 성능 향상을 이룬다.

ABSTRACT

Knowledge Graph Question Answering (KGQA) methods seek to answer Natural Language questions using the relational information stored in Knowledge Graphs (KGs). With the recent advancements of Large Language Models (LLMs) and their remarkable reasoning abilities, there is a growing trend to leverage them for KGQA. However, existing methodologies have only focused on answering factual questions, e.g., "In which city was Silvio Berlusconi's first wife born?", leaving questions involving commonsense reasoning that real-world users may pose more often, e.g., "Do I need separate visas to see the Venus of Willendorf and attend the Olympics this summer?" unaddressed. In this work, we first observe that existing LLM-based methods for KGQA struggle with hallucination on such questions, especially on queries targeting long-tail entities (e.g., non-mainstream and recent entities), thus hindering their applicability in real-world applications especially since their reasoning processes are not easily verifiable. In response, we propose Right for Right Reasons (R3), a commonsense KGQA methodology that allows for a verifiable reasoning procedure by axiomatically surfacing intrinsic commonsense knowledge of LLMs and grounding every factual reasoning step on KG triples. Through experimental evaluations across three different tasks--question answering, claim verification, and preference matching--our findings showcase R3 as a superior approach, outperforming existing methodologies and notably reducing instances of hallucination and reasoning errors.

연구 동기 및 목표

• LLM 기반 지식 그래프 질의 응답(KGQA) 시스템에서 검증 가능성의 부족, 특히 일반지식 추론 작업에 대해 해결하고자 한다.
• LLM이 지식 그래프 내 희귀 또는 낯선 엔티티를 추론할 때 발생하는 환각 현상을 줄이고자 한다.
• 사실 추론 단계와 일반지식 추론이 모두 명시적인 공리화를 통해 기반화되고 검증 가능하도록 보장하고자 한다.
• 높은 위험도 또는 개인화된 질의가 흔한 실세계 KGQA 응용에서의 강건성과 신뢰성을 향상시키고자 한다.
• 희귀 또는 최근에 도입된 엔티티가 있는 상황에서도 높은 성능을 유지할 수 있는 방법론을 개발하고자 한다. 이는 기존의 LLM 기반 기준선의 한계를 극복하기 위함이다.

제안 방법

• 모든 사실 추론 단계가 관련 지식 그래프 삼중항에 기반하도록 트리 구조의 검색을 사용하여 추적 가능성과 검증 가능성을 보장한다.
• LLM에서 유래한 내재된 일반지식을 공리적으로 표면화하여 외부 지식 소스에 의존하지 않고 추론를 이끌어내도록 한다.
• 지식 그래프 삼중항에 기반한 사실 추론과 표면화된 공리에 의해 이끌리는 일반지식 추론을 명시적으로 분리하여 검증 가능성을 확보한다.
• 모든 사실 전제가 지식 그래프 삼중항에 의해 지지되어야 하므로, 환각을 방지하기 위해 보수적이고 철저한 프롬프팅 전략을 사용한다.
• 소수의 예시와 작업 전용 프롬프트를 사용하여 LLM이 구조적이고 검증 가능한 추론 체인을 생성하도록 이끈다.
• 추론 예산을 유지하고 유효한 경로가 발견되지 않으면 조기에 종료하여 완전성보다 정확성을 우선시한다.

실험 결과

연구 질문

• RQ1 모든 사실 추론 단계를 지식 그래프 삼중항에 기반시킴으로써 LLM 기반 KGQA 시스템이 일반지식 추론 작업에서 검증 가능하게 만들 수 있는가?
• RQ2 LLM 기반 KGQA의 성능은 희귀 엔티티에서 어떻게 저하되며, 검증 가능한 추론을 통해 이를 완화할 수 있는가?
• RQ3 내재된 일반지식을 공리적으로 표면화함으로써 환각 현상과 추론 신뢰성 향상에 어느 정도 기여하는가?
• RQ4 다양한 KGQA 작업 전반에서 $R^{3}$은 기존의 LLM 기반 및 순수 LLM 기준선과 비교해 정확도, FActScore, 추론 품질 측면에서 어떻게 성능을 냈는가?
• RQ5 엔티티에 대한 익숙함이 제한된 개인화된 KGQA 작업, 예를 들어 선호도 매칭에서 $R^{3}$은 높은 성능을 유지할 수 있는가?

주요 결과

• $R^{3}$은 선호도 매칭 작업에서 57%의 최고 정확도를 기록하여 KAPING(44%)를 크게 앞서며, 더 뛰어난 개인화 능력을 보였다.
• 진술 검증 작업에서 $R^{3}$은 원본 설정과 희귀 엔티티 설정 모두에서 높은 FActScore(0.98)를 유지했고, 기준선들은 희귀 엔티티 조건에서 FActScore가 크게 하락함을 보였다.
• 희귀 엔티티 설정에서 $R^{3}$은 원래 정확도의 98%를 유지했고, 2-shot CoT는 0.51점 하락함을 보여, 엔티티의 낯설음에 대한 강건성을 입증했다.
• $R^{3}$은 모든 방법 중에서 가장 높은 추론 점수(0.04)를 기록했으며, 소수의 예시 CoT를 능가하여 더 신뢰할 수 있는 추론 체인을 제공했다.
• 모든 사실 추론 단계를 지식 그래프 삼중항에 기반시하고 일반지식 공리를 명시적으로 표면화함으로써 환각과 추론 오류를 줄여 더 신뢰할 수 있는 출력을 도출했다.
• 보수적인 접근 방식임에도 불구하고 $R^{3}$은 환각을 최소화하면서 뛰어난 성능을 기록했으며, 검증 가능성과 정확도를 우선시하더라도 성능 저하 없이 구현 가능함을 시사한다.