[论文解读] Artificial Artificial Artificial Intelligence: Crowd Workers Widely Use Large Language Models for Text Production Tasks

Veniamin Veselovsky, Manoel Horta Ribeiro+1 more|arXiv (Cornell University)|Jun 13, 2023

Mobile Crowdsensing and Crowdsourcing被引用 71

一句话总结

本论文开发了一种检测方法，用于估计 Mechanical Turk 上的众包工作者使用 LLM 生成文本的频率，并在特定的摘要-生成任务中发现 33–46% 的摘要为 LLM 生成。

ABSTRACT

Large language models (LLMs) are remarkable data annotators. They can be used to generate high-fidelity supervised training data, as well as survey and experimental data. With the widespread adoption of LLMs, human gold--standard annotations are key to understanding the capabilities of LLMs and the validity of their results. However, crowdsourcing, an important, inexpensive way to obtain human annotations, may itself be impacted by LLMs, as crowd workers have financial incentives to use LLMs to increase their productivity and income. To investigate this concern, we conducted a case study on the prevalence of LLM usage by crowd workers. We reran an abstract summarization task from the literature on Amazon Mechanical Turk and, through a combination of keystroke detection and synthetic text classification, estimate that 33-46% of crowd workers used LLMs when completing the task. Although generalization to other, less LLM-friendly tasks is unclear, our results call for platforms, researchers, and crowd workers to find new ways to ensure that human data remain human, perhaps using the methodology proposed here as a stepping stone. Code/data: https://github.com/epfl-dlab/GPTurk

研究动机与目标

• 量化众包工作者在文本摘要任务中使用 LLM 的普遍性。
• 开发一个低成本、与任务相关的检测器，用于区分人类撰写 vs LLM 生成的摘要。
• 使用打字击键数据和重叠分析来验证检测器以佐证结果。
• 评估众包情境中人类生成数据的可靠性影响。

提出的方法

• 在对比预训练基础上，微调一个 e5-base 分类器，以区分 ChatGPT 生成的摘要与真实摘要。
• 在真实人类摘要和来自 MTurk 任务提示的合成 ChatGPT 生成摘要上进行训练。
• 在两种数据分割设置下进行评估：摘要层面和摘要级别，检验对摘要和摘要的泛化能力。
• 将检测器应用于 46 条新的摘要，以估计众包工作者中的 LLM 使用情况，并在不同阈值变体下报告普遍性。
• 使用事后打字击键验证来评估分类器的可靠性和误报率。

Figure 1: Illustration of our approach for quantifying the prevalence of LLM usage among crowd workers solving a text summarization task. First, we use truly human-written MTurk responses and synthetic LLM-written responses to train a task-specific synthetic-vs.-real classifier. Second, we use this

实验结果

研究问题

• RQ1 在执行 MTurk 摘要-摘要任务的众包工作者中，LLM 的使用普遍性有多大？
• RQ2 在此情境下，是否可以使用一个任务特定、低计算量的检测器可靠地区分合成摘要和人类撰写的摘要？
• RQ3 打字击键和重叠分析能否证实检测器对合成文本与人类文本的分类？

主要发现

• 在摘要层面的分割中，合成 vs 实际分类器达到 99% 的准确率和 99% 的宏-F1。
• 同一分类器在摘要层面分割中达到 97% 的准确率和 97% 的宏-F1，表明具有良好的泛化。
• 采用对数几率阈值 0（50% 概率）时，46%（21/46）的摘要被分类为合成；更高的阈值 4（98% 概率）时，33%（15/46）被分类为合成。
• 跨阈值，LLM 生成摘要的估计普遍性维持在 33% 到 46% 之间。
• 事后分析显示大多数工作者粘贴文本，但分类器对高粘贴使用者的标签不同，表明存在真实的 LLM 生成输出，而不仅仅是复制。
• 在 synthetic 分类中，与原始摘要的重叠度较低，支持存在 LLM 生成内容。

Figure 2: Depiction of the MTurk task studied in this paper, where crowd workers were asked to condense research abstracts from the New England Journal of Medicine into summaries about 100 words long.