[论文解读] A negation detection assessment of GPTs: analysis with the xNot360 dataset

Ha-Thanh Nguyen, Randy Goebel+3 more|arXiv (Cornell University)|Jun 29, 2023

Topic Modeling被引用 5

一句话总结

本文使用自定义的 xNot360 数据集，采用零样本方法评估了 GPT-2、GPT-3、GPT-3.5 和 GPT-4 在否定检测方面的能力，该数据集包含标注了否定关系的句子对。GPT-4 表现最强，而 GPT-3.5 显著下降，表明即使是最先进的模型在医疗和法律等高风险领域中处理否定时仍难以保持逻辑一致性。

ABSTRACT

Negation is a fundamental aspect of natural language, playing a critical role in communication and comprehension. Our study assesses the negation detection performance of Generative Pre-trained Transformer (GPT) models, specifically GPT-2, GPT-3, GPT-3.5, and GPT-4. We focus on the identification of negation in natural language using a zero-shot prediction approach applied to our custom xNot360 dataset. Our approach examines sentence pairs labeled to indicate whether the second sentence negates the first. Our findings expose a considerable performance disparity among the GPT models, with GPT-4 surpassing its counterparts and GPT-3.5 displaying a marked performance reduction. The overall proficiency of the GPT models in negation detection remains relatively modest, indicating that this task pushes the boundaries of their natural language understanding capabilities. We not only highlight the constraints of GPT models in handling negation but also emphasize the importance of logical reliability in high-stakes domains such as healthcare, science, and law.

研究动机与目标

• 评估生成式预训练变换器（GPT）在无需微调的情况下检测自然语言中否定的能力。
• 识别 GPT-2、GPT-3、GPT-3.5 和 GPT-4 在处理否定时的性能差异。
• 强调在医疗、法律和科学等高风险领域中逻辑可靠性的重要性，因为在这些领域中错误理解否定可能导致严重后果。
• 提供一个标准化的、基于逻辑的语料库（xNot360），用于评估自然语言处理中的否定检测。
• 为未来研究提供指导，以提升大语言模型在逻辑一致性与鲁棒性方面的表现。

提出的方法

• 基于逻辑原则，构建了 xNot360 数据集，其中包含第二句话否定第一句话的句子对。
• 采用零样本预测方法，通过提示让每个 GPT 模型判断第二句话是否否定第一句话，且不进行微调。
• 使用逻辑规则确保语义一致性，并避免否定标注中的歧义，从而提高数据集的可靠性。
• 在多种否定类型上评估模型，包括标准否定、否定量词和词缀否定。
• 采用基于逻辑的框架，确保否定检测建立在形式语义学基础上，而非表面模式。
• 将模型输出与人工标注的黄金标准进行对比，以衡量否定检测的准确性和一致性。

实验结果

研究问题

• RQ1 GPT-2、GPT-3、GPT-3.5 和 GPT-4 在使用 xNot360 数据集进行零样本否定检测时表现如何？
• RQ2 这些 GPT 模型在检测不同类型否定时存在哪些性能差异？
• RQ3 GPT-3.5 和 GPT-4 中的基于人类反馈的强化学习（RLHF）在多大程度上影响了其在否定理解中的逻辑一致性？
• RQ4 xNot360 数据集的逻辑结构在多大程度上挑战了大语言模型的推理能力？
• RQ5 这些发现对在需要精确否定理解的高风险领域中使用大语言模型有何启示？

主要发现

• GPT-4 在所有评估模型中表现出最高的否定检测性能，表明其在零样本设置下具备更优的逻辑推理能力。
• 与 GPT-3 和 GPT-4 相比，GPT-3.5 表现显著下降，表明 RLHF 并不总是能提升逻辑一致性。
• 总体而言，所有 GPT 模型在否定检测方面仅表现出有限的熟练度，表明该任务对当前的大语言模型仍是重大挑战。
• xNot360 数据集有效暴露了模型在处理复杂或嵌套否定结构时的弱点。
• 不同否定类型之间的表现差异显著，模型在处理否定量词和词缀否定时尤其吃力。
• 本研究证实，即使在零样本提示下，当前的大语言模型在否定任务中也未能可靠地与逻辑真值对齐。