[论文解读] Assessing the Effectiveness of GPT-3 in Detecting False Political Statements: A Case Study on the LIAR Dataset

Mars Gokturk Buchholz|arXiv (Cornell University)|Jun 14, 2023

Misinformation and Its Impacts被引用 4

一句话总结

本研究评估了GPT-3在LIAR数据集上检测虚假政治声明的能力，表明微调后的GPT-3在不依赖元数据或语言特征的情况下，其准确率高于以往最先进模型。在零样本提示设置下，GPT-3也实现了接近最先进水平的性能，同时为其预测提供了可解释的证据，提升了自动化事实核查的透明度。

ABSTRACT

The detection of political fake statements is crucial for maintaining information integrity and preventing the spread of misinformation in society. Historically, state-of-the-art machine learning models employed various methods for detecting deceptive statements. These methods include the use of metadata (W. Wang et al., 2018), n-grams analysis (Singh et al., 2021), and linguistic (Wu et al., 2022) and stylometric (Islam et al., 2020) features. Recent advancements in large language models, such as GPT-3 (Brown et al., 2020) have achieved state-of-the-art performance on a wide range of tasks. In this study, we conducted experiments with GPT-3 on the LIAR dataset (W. Wang et al., 2018) and achieved higher accuracy than state-of-the-art models without using any additional meta or linguistic features. Additionally, we experimented with zero-shot learning using a carefully designed prompt and achieved near state-of-the-art performance. An advantage of this approach is that the model provided evidence for its decision, which adds transparency to the model's decision-making and offers a chance for users to verify the validity of the evidence provided.

研究动机与目标

• 评估GPT-3是否能在不使用外部特征的情况下，超越现有机器学习模型在分类政治声明真实性方面的表现。
• 评估使用精心设计的提示（包含标签定义并要求提供事实证据）时，GPT-3.5-turbo在零样本提示设置下的性能表现。
• 通过分析模型为每个标签提供的证据，评估GPT-3预测的透明度与可解释性。
• 研究由于训练数据截止时间导致的GPT-3在事实核查任务中的局限性，并探讨通过检索增强生成技术提升性能的潜在方法。

提出的方法

• 仅使用声明文本对GPT-3在LIAR数据集上进行微调，未使用额外的元数据或语言特征。
• 为GPT-3.5-turbo设计了一种零样本提示，其中包含Politifact Truth-O-Meter标签的定义，并要求提供来自可靠来源的事实证据。
• 使用OpenAI聊天补全API，温度设置为0.0，生成单标记预测，并提取标签以供评估。
• 通过LIAR数据集上的测试准确率，将模型性能与基线CNN和混合模型进行比较。
• 收集并分析模型生成的证据，以评估其在支持预测时的相关性与可信度。
• 使用宏平均准确率评估性能，并分析模型预测与真实标签之间的不一致情况。

实验结果

研究问题

• RQ1 GPT-3是否能在不使用元数据或语言特征的情况下，在LIAR数据集上实现高于最先进模型的分类准确率？
• RQ2 在未进行微调的情况下，GPT-3的零样本提示在检测欺骗性政治声明方面的有效性如何？
• RQ3 GPT-3在多大程度上能为其真实性预测提供可解释且可验证的证据？
• RQ4 由于训练数据截止时间，GPT-3在事实核查任务中存在哪些局限性？检索增强生成技术如何可能提升其性能？
• RQ5 当GPT-3预测与专家事实核查标签均基于相同证据时，为何仍会出现不一致？

主要发现

• 微调后的GPT-3在测试集上达到0.295的准确率，优于最佳基线CNN-混合模型的0.274。
• 零样本GPT-3模型在测试集上达到0.266的准确率，尽管未经微调，但表现仍具有竞争力。
• GPT-3为其预测提供了事实性证据，增强了透明度，并使用户能够验证每项标签背后的推理过程。
• GPT-3与Politifact标签之间存在不一致，例如将伯尼·桑德斯对布雷迪法案的投票标记为“虚假”，而Politifact评定为“大部分真实”，表明存在解释上的分歧。
• 模型行为表明其并非简单记忆标签，而是基于事实内容进行主动推理，尽管偶尔会误解复杂微妙的陈述。
• 未来可通过检索增强生成技术实现改进，以提供更新的信息，尤其适用于GPT-3训练截止时间之后的近期事件。