[论文解读] AuthentiGPT: Detecting Machine-Generated Text via Black-Box Language Models Denoising

Zhen Guo, Shangdi Yu|arXiv (Cornell University)|Nov 13, 2023

Topic Modeling被引用 4

一句话总结

AuthentiGPT 是一种新颖且高效的分类器，通过利用黑箱语言模型对输入文本进行去噪处理（引入合成噪声），然后使用仅含一个可训练参数的分类器比较原始文本与去噪后文本之间的语义相似度，从而检测机器生成的文本。在生物医学问答数据集上，其 AUROC 得分为 0.918，优于零样本的 GPT-3.5、GPT-4、GPTZero 和 Originality.AI，且无需训练数据、水印或对数似然计算。

ABSTRACT

Large language models (LLMs) have opened up enormous opportunities while simultaneously posing ethical dilemmas. One of the major concerns is their ability to create text that closely mimics human writing, which can lead to potential misuse, such as academic misconduct, disinformation, and fraud. To address this problem, we present AuthentiGPT, an efficient classifier that distinguishes between machine-generated and human-written texts. Under the assumption that human-written text resides outside the distribution of machine-generated text, AuthentiGPT leverages a black-box LLM to denoise input text with artificially added noise, and then semantically compares the denoised text with the original to determine if the content is machine-generated. With only one trainable parameter, AuthentiGPT eliminates the need for a large training dataset, watermarking the LLM's output, or computing the log-likelihood. Importantly, the detection capability of AuthentiGPT can be easily adapted to any generative language model. With a 0.918 AUROC score on a domain-specific dataset, AuthentiGPT demonstrates its effectiveness over other commercial algorithms, highlighting its potential for detecting machine-generated text in academic settings.

研究动机与目标

• 为应对机器生成文本日益逼近人类写作风格所带来的挑战，特别是在学术与伦理场景中。
• 开发一种不依赖大规模标注数据集、水印或对数似然计算的检测方法。
• 构建一种轻量化、可适配的分类器，可轻松应用于任意生成式语言模型。
• 提升在特定领域（如生物医学问答）中的检测准确率，其中细微的风格差异具有重要意义。

提出的方法

• AuthentiGPT 通过可控的掩码比率对输入文本引入合成噪声（通过标记掩码实现），以构建去噪任务。
• 利用黑箱语言模型（如 GPT-3.5-turbo）对受损输入进行去噪，生成语义重建结果。
• 通过计算原始文本与去噪后文本之间的余弦相似度，衡量语义偏差程度。
• 使用高斯混合模型（GMM）对相似度得分进行聚类，仅通过一个可训练参数（λ）区分机器生成与人工撰写文本。
• 该方法基于假设：人工撰写文本位于机器生成文本分布之外，因此在噪声干扰下其可预测性更低。
• 分类器仅在 20 个样本的小规模数据集上进行训练，展现出高度的数据效率，并可轻松适配新模型。

Figure 1: The AUROC scores of AuthentiGPT using different training samples and masking ratios. The x-axis has the number of averaging samples $\beta$ . Each plot shows the scores using different masking ratios $\alpha$ .

实验结果

研究问题

• RQ1 黑箱语言模型能否以一种揭示人工与机器生成内容分布差异的方式对文本进行去噪？
• RQ2 原始文本与去噪后文本之间的语义相似度能否作为可靠信号，用于区分机器生成与人工撰写文本？
• RQ3 仅含一个可训练参数的轻量化分类器是否能在无需大规模训练数据的情况下实现高性能检测？
• RQ4 AuthentiGPT 在多种数据集上与零样本大模型（如 GPT-4）及商业检测工具（如 GPTZero 和 Originality.AI）相比，检测机器生成文本的表现如何？

主要发现

• AuthentiGPT 在 PubMedQA 与 GPT 生成的问答数据集的聚合数据集上取得 0.918 的 AUROC 得分，优于零样本 GPT-3.5（0.721）与 GPT-4（0.577）。
• 其表现超越 GPTZero（0.797 AUROC）与 Originality.AI（0.906 AUROC），在测试数据集上达到最先进性能。
• 该方法在不同类型数据上表现一致，尤其在检测新型问答生成任务中的机器生成内容方面表现突出。
• 性能对掩码比率敏感，在 α = 0.08 时达到最优，而增加平均采样次数（β）可提升统计可靠性。
• 该算法在检测 GPT-4 重写内容时存在局限，表明在改写内容中保留风格线索存在挑战。
• 误报仍为一大关切，尤其当人工撰写文本与模型输出高度相似时，凸显仍需进一步优化。

Figure 2: The figure on the left is the histogram plots for the cosine similarity of the test datasets before the Box-Cox transformation. The figure on the right is the histogram plots for the cosine similarity of the test datasets after the Box-Cox transformation.