[논문 리뷰] FactLLaMA: Optimizing Instruction-Following Language Models with External Knowledge for Automated Fact-Checking

Tsun-Hin Cheung, Kin‐Man Lam|arXiv (Cornell University)|2023. 09. 01.

Topic ModelingComputer Science인용 수 3

한 줄 요약

이 논문은 외부 증거 검색을 통합하여 지침에 맞춰 튜닝된 LLM의 정확도를 향상시키는 사실 확인 프레임워크인 FactLLaMA를 제안한다. 검색 엔진에서 유래한 증거와 미세튜닝된 LLaMA 모델을 결합함으로써, RAWFC 및 LIAR 데이터셋에서 최신 기술 수준의 성능을 달성하며, 지식 증강을 통해 환상적 발언을 크게 줄이고 진술의 진실성 예측을 향상시킨다.

ABSTRACT

Automatic fact-checking plays a crucial role in combating the spread of misinformation. Large Language Models (LLMs) and Instruction-Following variants, such as InstructGPT and Alpaca, have shown remarkable performance in various natural language processing tasks. However, their knowledge may not always be up-to-date or sufficient, potentially leading to inaccuracies in fact-checking. To address this limitation, we propose combining the power of instruction-following language models with external evidence retrieval to enhance fact-checking performance. Our approach involves leveraging search engines to retrieve relevant evidence for a given input claim. This external evidence serves as valuable supplementary information to augment the knowledge of the pretrained language model. Then, we instruct-tune an open-sourced language model, called LLaMA, using this evidence, enabling it to predict the veracity of the input claim more accurately. To evaluate our method, we conducted experiments on two widely used fact-checking datasets: RAWFC and LIAR. The results demonstrate that our approach achieves state-of-the-art performance in fact-checking tasks. By integrating external evidence, we bridge the gap between the model's knowledge and the most up-to-date and sufficient context available, leading to improved fact-checking outcomes. Our findings have implications for combating misinformation and promoting the dissemination of accurate information on online platforms. Our released materials are accessible at: https://thcheung.github.io/factllama.

연구 동기 및 목표

• 지침을 따르는 LLM의 사실 확인 능력에 한계가 존재하는 이유로, 오래된 또는 부족한 내부 지식 때문인 점을 해결하기 위해.
• 최신 외부 증거를 통합하여 자동 사실 확인 시스템의 정확성과 신뢰성을 향상시키기 위해.
• LLaMA 모델이 검색된 증거를 바탕으로 추론할 수 있도록 하는 검색 기반 증강 미세튜닝 프레임워크를 개발하기 위해.
• 기존의 표준 사실 확인 벤치마크에서 방법을 평가하고, 기준 LLM보다 뛰어난 성능을 입증하기 위해.

제안 방법

• 최신 정보에 접근하기 위해 외부 검색 엔진을 사용하여 주어진 진술에 관련된 증거를 검색한다.
• 미세튜닝 과정에서 검색된 증거를 지침에 맞춰 튜닝된 LLaMA 모델에 통합하여 외부 사실에 대한 추론 능력을 향상시킨다.
• 모델의 출력을 검증된 증거와 일치시키기 위해 검색 기반 증강 지침 튜닝 전략을 사용한다.
• 검색된 증거와 입력 진술을 LLM의 단일 입력 시퀀스로 통합하는 프롬프트 엔지니어링 접근 방식을 활용한다.
• 증거가 포함된 사실 확인 데이터로 종합적으로 모델을 훈련시켜, 진술의 진실성 예측을 더 정확하게 할 수 있도록 한다.
• 기본 모델로 오픈소스 LLaMA를 사용하고, 증거 기반 데이터로 지시 튜닝을 적용하여 사실 확인 작업에 최적화한다.

실험 결과

연구 질문

• RQ1 외부 증거 검색 통합이 지침에 맞춰 튜닝된 LLM의 사실 확인 성능을 향상시킬 수 있는가?
• RQ2 기본적인 미세튜닝과 비교해 볼 때, 검색 기반 증강 지시 튜닝은 모델의 진술 검증 능력에 어떤 영향을 미치는가?
• RQ3 외부 증거는 LLM이 생성한 결론에서 환상적 발언을 얼마나 줄이고 사실 일관성을 향상시키는가?
• RQ4 제안된 방법은 RAWFC 및 LIAR와 같은 다양한 사실 확인 벤치마크에 일반화되는가?

주요 결과

• FactLLaMA는 RAWFC 및 LIAR 벤치마크 데이터셋에서 모두 최신 기술 수준의 성능을 달성하여 기존의 지침에 맞춰 튜닝된 LLM을 능가한다.
• 외부 증거 통합으로 인해 특히 최신 정보나 전문 지식이 필요한 진술의 진실성 예측 정확도가 크게 향상된다.
• 검색 기반 증강 튜닝 접근 방식은 예측을 검색된 사실 증거에 기반하게 하여 모델의 환상적 발언을 줄인다.
• 다양한 유형의 진술과 도메인에서 안정적인 성능을 보이며, 강력한 일반화 능력을 보여준다.