[论文解读] CoCo: Coherence-Enhanced Machine-Generated Text Detection Under Data Limitation With Contrastive Learning

Xiaoming Liu, Zhaohan Zhang+4 more|arXiv (Cornell University)|Dec 20, 2022

Topic Modeling被引用 7

一句话总结

本文提出 CoCo，一种对比学习框架，通过基于实体的图表示建模文本连贯性，在低资源条件下提升机器生成文本检测性能。通过将图结构语言特征与难度感知对比损失相结合，CoCo 在多个数据集上实现最先进性能，包括出人意料的发现：GPT-3.5 生成的文本比旧模型生成的文本更容易检测。

ABSTRACT

Machine-Generated Text (MGT) detection, a task that discriminates MGT from Human-Written Text (HWT), plays a crucial role in preventing misuse of text generative models, which excel in mimicking human writing style recently. Latest proposed detectors usually take coarse text sequences as input and fine-tune pretrained models with standard cross-entropy loss. However, these methods fail to consider the linguistic structure of texts. Moreover, they lack the ability to handle the low-resource problem which could often happen in practice considering the enormous amount of textual data online. In this paper, we present a coherence-based contrastive learning model named CoCo to detect the possible MGT under low-resource scenario. To exploit the linguistic feature, we encode coherence information in form of graph into text representation. To tackle the challenges of low data resource, we employ a contrastive learning framework and propose an improved contrastive loss for preventing performance degradation brought by simple samples. The experiment results on two public datasets and two self-constructed datasets prove our approach outperforms the state-of-art methods significantly. Also, we surprisingly find that MGTs originated from up-to-date language models could be easier to detect than these from previous models, in our experiments. And we propose some preliminary explanations for this counter-intuitive phenomena. All the codes and datasets are open-sourced.

研究动机与目标

• 解决现有机器生成文本检测器忽略高层语言结构且在低资源条件下表现不佳的局限性。
• 基于中心化理论，通过基于实体的连贯性图建模文本连贯性，捕捉句子内与跨句子的实体一致性。
• 通过具有难度重加权损失函数的对比学习框架，提升低资源设置下的模型泛化能力。
• 探究为何更先进、更新的语言模型（如 GPT-3.5）生成的文本可能比旧模型生成的文本更容易被检测。
• 提供一种可解释、结构感知的检测方法，利用基于图的特征提升人类与机器生成文本之间的判别能力。

提出的方法

• 构建实体连贯性图，其中节点代表命名实体，边代表句子内及跨句子的共现关系，以建模文本结构。
• 使用预训练语言模型编码文本，并将实体表示投影到图结构中，以捕捉语义连贯性。
• 设计一种对比学习框架，将正样本（同一文本的增强版本）与负样本（不同文本）配对，学习判别性表示。
• 提出一种难度感知对比损失，根据其难度得分对负样本进行重加权，减少简单负样本的干扰，增强对困难样本的关注。
• 通过图卷积网络（GCN）将图表示与序列级编码相结合，以优化上下文表示。
• 端到端训练模型，结合对比损失与交叉熵损失进行分类，实现在数据稀缺条件下的鲁棒检测。

实验结果

研究问题

• RQ1 通过基于实体的图建模文本连贯性，是否能相比平坦序列建模显著提升机器生成文本的检测性能？
• RQ2 在低资源条件下，采用难度感知损失设计的对比学习如何提升检测性能？
• RQ3 为何 GPT-3.5 生成的文本比 GPT-2 和 GROVER 等旧模型生成的文本更容易被检测？
• RQ4 基于图的结构特征（如聚类系数、核心数和结构熵）在多大程度上能区分人类写作与机器生成文本？
• RQ5 数据不平衡（尤其是人类写作文本代表性不足时）如何影响检测器性能？CoCo 是否能缓解此问题？

主要发现

• CoCo 在两个公开数据集（GROVER、GPT-2）和两个自建数据集上均优于最先进方法，在低资源设置下显著提升检测准确率。
• HWT 的平均聚类系数（0.2213）比 MGT（0.1983）高出 11.6%，表明人类写作文本具有更强的局部语义凝聚性。
• HWT 的平均核心数（5.772）高于 MGT（4.458），反映出人类写作文本具有更复杂的分层结构，差异达 29.5%。
• HWT 的结构熵（2.263）比 MGT（2.119）高出 6.80%，表明人类写作文本具有更有序、更具信息量的全局语义结构。
• 出人意料的是，尽管质量更高，GPT-3.5 生成的文本显著比 GPT-2 和 GROVER 生成的文本更容易被检测，表明新型模型可能留下可检测的统计特征。
• 在极端数据不平衡条件下（如仅 10% 人类写作文本），大多数模型（包括 CoCo）准确率下降至 50% 以下，但 CoCo 相较基线模型仍保持相对更好的鲁棒性。