[논문 리뷰] Artificial Artificial Artificial Intelligence: Crowd Workers Widely Use Large Language Models for Text Production Tasks

Veniamin Veselovsky, Manoel Horta Ribeiro외 1명|arXiv (Cornell University)|2023. 06. 13.

Mobile Crowdsensing and Crowdsourcing인용 수 71

한 줄 요약

이 논문은 MTurk의 크라우드 워커가 텍스트를 생성하기 위해 LLM을 얼마나 자주 사용하는지 추정하기 위한 탐지 방법을 개발하고, 특정 추상 요약 작업에서 요약의 33–46%가 LLM 생성임을 발견한다.

ABSTRACT

Large language models (LLMs) are remarkable data annotators. They can be used to generate high-fidelity supervised training data, as well as survey and experimental data. With the widespread adoption of LLMs, human gold--standard annotations are key to understanding the capabilities of LLMs and the validity of their results. However, crowdsourcing, an important, inexpensive way to obtain human annotations, may itself be impacted by LLMs, as crowd workers have financial incentives to use LLMs to increase their productivity and income. To investigate this concern, we conducted a case study on the prevalence of LLM usage by crowd workers. We reran an abstract summarization task from the literature on Amazon Mechanical Turk and, through a combination of keystroke detection and synthetic text classification, estimate that 33-46% of crowd workers used LLMs when completing the task. Although generalization to other, less LLM-friendly tasks is unclear, our results call for platforms, researchers, and crowd workers to find new ways to ensure that human data remain human, perhaps using the methodology proposed here as a stepping stone. Code/data: https://github.com/epfl-dlab/GPTurk

연구 동기 및 목표

• 텍스트 요약 작업에서 크라우드 워커들 사이에서 LLM 사용의 유병률을 정량화한다.
• 인간이 쓴 요약 vs LLM 생성 요약을 구분하는 저비용의 작업 특화 탐지기를 개발한다.
• 결과를 보강하기 위해 키스트로크 데이터와 중첩 분석을 사용하여 탐지기의 신뢰성을 검증한다.
• 크라우드소싱 맥락에서 인간이 생성한 데이터의 신뢰성에 대한 시사점을 평가한다.

제안 방법

• contrastive-pretraining 기반을 활용하여 ChatGPT 생성 요약 vs 실제 요약을 구분하는 e5-base 분류기를 미세조정한다.
• MTurk 작업 프롬프트에서 파생된 실제 인간 요약과 합성 ChatGPT 생성 요약에 대해 학습한다.
• 추상 수준과 요약 수준의 두 데이터 분할 설정에서 평가하여 추상과 요약 간 일반화를 검토한다.
• 탐지기를 46개의 새로운 요약에 적용하여 임계값 변형에 따른 LLM 사용 유병률을 보고한다.
• 사후 키스트로크 기반 검증을 사용하여 분류기의 신뢰성과 거짓 양성률을 평가한다.

Figure 1: Illustration of our approach for quantifying the prevalence of LLM usage among crowd workers solving a text summarization task. First, we use truly human-written MTurk responses and synthetic LLM-written responses to train a task-specific synthetic-vs.-real classifier. Second, we use this

실험 결과

연구 질문

• RQ1 MTurk 추상 요약 작업을 수행하는 크라우드 워커 사이에서 LLM 사용의 유병률은 어느 정도인가?
• RQ2 작업 특화 저계산 탐지기가 이 설정에서 합성 텍스트와 인간이 작성한 요약을 신뢰성 있게 구분할 수 있는가?
• RQ3 키스트로크 및 중첩 분석이 탐지기의 합성 대 인간 텍스트 분류를 보강하는가?

주요 결과

• 합성-대실제 classifier가 요약 수준 분할에서 99%의 정확도와 99%의 macro-F1을 달성했다.
• 같은 분류기가 추상 수준 분할에서 97%의 정확도와 97%의 macro-F1을 달성하여 일반화가 좋음을 나타낸다.
• 로그it 임계값 0(50% 확률)일 때, 46% (21/46) 요약이 합성으로 분류되었고, 임계값을 4(98% 확률)로 높이면 33% (15/46) 합성으로 분류되었다.
• 임계값 전반에 걸쳐 LLM 생성 요약의 추정 유병률은 33%에서 46% 사이로 남아 있었다.
• 사후 분석에서 대부분의 작업자가 텍스트를 붙여넣은 반면, 분류기가 붙여넣기 사용이 높은 이들을 다르게 라벨링하여 진짜 LLM 생성 출력일 가능성을 시사했다.
• 원본 초록과 합성 분류 간의 겹침이 적은 점은 LLM 생성 콘텐츠의 존재를 뒷받침한다.

Figure 2: Depiction of the MTurk task studied in this paper, where crowd workers were asked to condense research abstracts from the New England Journal of Medicine into summaries about 100 words long.