[论文解读] A Benchmark Corpus for the Detection of Automatically Generated Text in Academic Publications

Vijini Liyanage, Davide Buscaldi+1 more|arXiv (Cornell University)|Feb 4, 2022

Topic Modeling被引用 13

一句话总结

本文提出了一项基准语料库，用于自动检测由GPT-2和Arxiv-NLP生成的学术文本。该语料库基于两个数据集：一个为完全由GPT-2生成的内容，另一个为部分摘要被Arxiv-NLP生成句子替换的混合文本。主要贡献在于构建了一个具有挑战性的基准，使用DistilBERT模型在该基准上实现了最高70.2%的分类准确率，表明高质量合成学术文本的检测极具难度，凸显了改进检测方法的迫切需求。

ABSTRACT

Automatic text generation based on neural language models has achieved performance levels that make the generated text almost indistinguishable from those written by humans. Despite the value that text generation can have in various applications, it can also be employed for malicious tasks. The diffusion of such practices represent a threat to the quality of academic publishing. To address these problems, we propose in this paper two datasets comprised of artificially generated research content: a completely synthetic dataset and a partial text substitution dataset. In the first case, the content is completely generated by the GPT-2 model after a short prompt extracted from original papers. The partial or hybrid dataset is created by replacing several sentences of abstracts with sentences that are generated by the Arxiv-NLP model. We evaluate the quality of the datasets comparing the generated texts to aligned original texts using fluency metrics such as BLEU and ROUGE. The more natural the artificial texts seem, the more difficult they are to detect and the better is the benchmark. We also evaluate the difficulty of the task of distinguishing original from generated text by using state-of-the-art classification models.

研究动机与目标

• 为应对AI生成学术内容日益增长的威胁，该威胁正损害研究诚信。
• 创建一个高质量的基准数据集，用于检测合成学术文本。
• 评估区分人工撰写与AI生成研究内容的难度。
• 提供一个可复现且可扩展的资源，用于训练和测试检测模型。
• 支持开发稳健的工具，以检测语言模型在学术出版中的滥用行为。

提出的方法

• 通过从原始论文中提取简短提示，使用GPT-2模型生成完整的研究内容，构建完全合成的数据集。
• 通过用Arxiv-NLP模型生成的文本替换原始论文摘要中的选定句子，创建混合数据集。
• 使用流畅度指标（如BLEU和ROUGE）评估文本质量，以确保自然性和连贯性。
• 在两个数据集上训练并评估多种分类模型（包括BERT、DistilBERT、LSTM和SVM），以评估检测难度。
• 将分类性能与先前工作进行比较，以验证该基准的挑战程度。
• 采用二元分类设置，区分两个数据集中的原始文本与生成文本。

实验结果

研究问题

• RQ1 最先进模型在完全合成和混合数据集上检测AI生成学术文本的效率如何？
• RQ2 BLEU和ROUGE等流畅度指标在多大程度上能反映生成学术内容的自然性？
• RQ3 与完全生成文本相比，部分替换（混合）文本的检测难度有何不同？
• RQ4 现有检测模型能否可靠地区分高质量合成学术文本与人工撰写内容？
• RQ5 与文献中先前的检测基准相比，所提出的基准在难度上如何？

主要发现

• 在完全生成的数据集上，DistilBERT模型达到最高62.5%的分类准确率，表明高质量合成内容具有中等可检测性。
• 在混合数据集上，DistilBERT达到70.2%的准确率，表明部分替换使检测难度高于完全合成内容。
• 除LSTM外，大多数模型在混合数据集上的表现均差于完全生成数据集，LSTM在完全生成数据集上表现更优。
• 分类结果显著低于先前研究（如Maronikolakis et al., 2020）报告的结果，证实本基准更具挑战性，因此更适用于评估检测系统。
• 各模型整体准确率较低，峰值仅为70.2%，表明当前检测方法仍显不足，凸显了检测高级AI生成学术文本这一开放性挑战。
• 由高质量合成与混合学术内容组成的基准语料库，可作为未来自动化检测AI生成学术内容研究的有效基线。