[论文解读] FactLLaMA: Optimizing Instruction-Following Language Models with External Knowledge for Automated Fact-Checking

Tsun-Hin Cheung, Kin‐Man Lam|arXiv (Cornell University)|Sep 1, 2023

Topic ModelingComputer Science被引用 3

一句话总结

本文提出 FactLLaMA，一种事实核查框架，通过整合外部证据检索来增强指令微调的大语言模型，从而提高准确性。通过将搜索引擎获取的证据与微调后的 LLaMA 模型结合，该方法在 RAWFC 和 LIAR 数据集上实现了最先进性能，显著减少了幻觉现象，并通过知识增强提升了真实性预测能力。

ABSTRACT

Automatic fact-checking plays a crucial role in combating the spread of misinformation. Large Language Models (LLMs) and Instruction-Following variants, such as InstructGPT and Alpaca, have shown remarkable performance in various natural language processing tasks. However, their knowledge may not always be up-to-date or sufficient, potentially leading to inaccuracies in fact-checking. To address this limitation, we propose combining the power of instruction-following language models with external evidence retrieval to enhance fact-checking performance. Our approach involves leveraging search engines to retrieve relevant evidence for a given input claim. This external evidence serves as valuable supplementary information to augment the knowledge of the pretrained language model. Then, we instruct-tune an open-sourced language model, called LLaMA, using this evidence, enabling it to predict the veracity of the input claim more accurately. To evaluate our method, we conducted experiments on two widely used fact-checking datasets: RAWFC and LIAR. The results demonstrate that our approach achieves state-of-the-art performance in fact-checking tasks. By integrating external evidence, we bridge the gap between the model's knowledge and the most up-to-date and sufficient context available, leading to improved fact-checking outcomes. Our findings have implications for combating misinformation and promoting the dissemination of accurate information on online platforms. Our released materials are accessible at: https://thcheung.github.io/factllama.

研究动机与目标

• 解决指令遵循型大语言模型在事实核查方面因内部知识过时或不足而产生的局限性。
• 通过整合最新、外部的证据，提高自动化事实核查系统的准确性和可靠性。
• 开发一种检索增强的微调框架，使大语言模型能够基于检索到的证据进行推理，以验证声明。
• 在标准事实核查基准上评估该方法，并证明其优于基线大语言模型。

提出的方法

• 使用外部搜索引擎检索与给定声明相关的证据，以获取最新信息。
• 在微调过程中，将检索到的证据与指令微调的 LLaMA 模型结合，以提升其对事实性信息的推理能力。
• 采用检索增强的指令微调策略，使模型输出与经验证的证据保持一致。
• 采用提示工程方法，将检索到的证据与输入声明整合为大语言模型的单一输入序列。
• 在包含证据的事实核查数据上端到端训练模型，使其能够更准确地预测声明的真实性。
• 以开源的 LLaMA 作为基础模型，应用带有证据增强的数据进行指令微调，以优化事实核查任务。

实验结果

研究问题

• RQ1 整合外部证据检索是否能提升指令微调大语言模型的事实核查性能？
• RQ2 与标准微调相比，检索增强的指令微调在多大程度上提升了模型验证声明的能力？
• RQ3 外部证据在多大程度上减少了大语言模型生成结论时的幻觉现象，并提升了事实一致性？
• RQ4 所提出的方法是否能在 RAWFC 和 LIAR 等多样化事实核查基准上实现泛化？

主要发现

• FactLLaMA 在 RAWFC 和 LIAR 基准数据集上均实现了最先进性能，优于现有指令微调的大语言模型。
• 整合外部证据显著提升了模型在预测声明真实性方面的准确性，尤其在需要最新或专业领域知识的声明上表现更优。
• 检索增强的微调方法通过将预测建立在检索到的事实证据基础上，有效减少了模型的幻觉现象。
• 该方法在多种类型的声明和领域中均表现出稳健性能，表明其具备强大的泛化能力。