[논문 리뷰] AuthentiGPT: Detecting Machine-Generated Text via Black-Box Language Models Denoising

Zhen Guo, Shangdi Yu|arXiv (Cornell University)|2023. 11. 13.

Topic Modeling인용 수 4

한 줄 요약

AuthentiGPT는 기계로 생성된 텍스트를 탐지하기 위해 블랙박스 언어 모델을 활용해 입력 텍스트를 합성 노이즈로 노이즈 제거한 후, 원본과 복원된 텍스트 간의 의미 유사도를 단일 학습 가능 파라미터 분류기로 비교하는 새로운 효율적인 분류기이다. 이는 학습 데이터, 워터마킹, 로그우도 계산 없이도 생물의학 QA 데이터셋에서 0.918 AUROC 점수를 기록하며, 제로샷 GPT-3.5, GPT-4, GPTZero, Originality.AI를 모두 능가한다.

ABSTRACT

Large language models (LLMs) have opened up enormous opportunities while simultaneously posing ethical dilemmas. One of the major concerns is their ability to create text that closely mimics human writing, which can lead to potential misuse, such as academic misconduct, disinformation, and fraud. To address this problem, we present AuthentiGPT, an efficient classifier that distinguishes between machine-generated and human-written texts. Under the assumption that human-written text resides outside the distribution of machine-generated text, AuthentiGPT leverages a black-box LLM to denoise input text with artificially added noise, and then semantically compares the denoised text with the original to determine if the content is machine-generated. With only one trainable parameter, AuthentiGPT eliminates the need for a large training dataset, watermarking the LLM's output, or computing the log-likelihood. Importantly, the detection capability of AuthentiGPT can be easily adapted to any generative language model. With a 0.918 AUROC score on a domain-specific dataset, AuthentiGPT demonstrates its effectiveness over other commercial algorithms, highlighting its potential for detecting machine-generated text in academic settings.

연구 동기 및 목표

• 기계로 생성된 텍스트가 인간의 글쓰기와 매우 유사해지는 문제를 해결하기 위해, 특히 학술 및 윤리적 맥락에서의 탐지 도전에 대응한다.
• 대규모 레이블링된 데이터셋, 워터마킹, 로그우도 계산에 의존하지 않는 탐지 방법을 개발한다.
• 어떤 생성 언어 모델에도 쉽게 적용할 수 있는 경량이며 유연한 분류기를 만들기 위해 노력한다.
• 의료 질문-답변와 같은 도메인 특화 환경에서, 미세한 스타일적 차이가 중요한 경우의 탐지 정확도를 향상시킨다.

제안 방법

• AuthentiGPT는 제어된 마스킹 비율로 텍스트에 합성 노이즈(토큰 마스킹을 통해)를 도입하여 노이즈 제거 작업을 유도한다.
• GPT-3.5-turbo와 같은 블랙박스 언어 모델을 사용해 손상된 입력 텍스트를 복원하여 의미적 재구성 결과를 생성한다.
• 원본 텍스트와 복원된 텍스트 간의 코사인 유사도를 계산하여 의미적 이탈 정도를 측정한다.
• 유사도 점수를 군집화하기 위해 가우시안 믹스처 모델(GMM)을 사용하며, 기계 생성 텍스트와 인간 작성 텍스트를 분리하기 위해 오직 하나의 학습 가능한 파라미터(λ)만 필요하다.
• 이 방법은 인간이 작성한 텍스트가 기계 생성 텍스트의 분포 외부에 위치해 있어 노이즈 하에서 본질적으로 예측 가능성이 낮다는 가정에 기반한다.
• 분류기는 소량의 20개 예시로만 학습되기 때문에 매우 자료 효율적이며, 새로운 모델에 쉽게 적응할 수 있다.

Figure 1: The AUROC scores of AuthentiGPT using different training samples and masking ratios. The x-axis has the number of averaging samples $\beta$ . Each plot shows the scores using different masking ratios $\alpha$ .

실험 결과

연구 질문

• RQ1 블랙박스 언어 모델을 사용해 기계 생성 텍스트의 분포적 차이를 드러내는 방식으로 텍스트를 노이즈 제거할 수 있는가?
• RQ2 원본 텍스트와 복원된 텍스트 간의 의미 유사도가 기계 생성 텍스트와 인간 작성 텍스트를 구분하는 신뢰할 수 있는 신호가 될 수 있는가?
• RQ3 오직 하나의 학습 가능한 파라미터만을 갖는 경량 분류기가 대규모 학습 데이터 없이도 높은 탐지 성능을 달성할 수 있는가?
• RQ4 다양한 데이터셋에서 제로샷 LLM 및 GPTZero, Originality.AI와 같은 상용 탐지기와 비교해 AuthentiGPT는 기계 생성 텍스트 탐지에서 어떤 성능을 보이는가?

주요 결과

• AuthentiGPT는 PubMedQA와 GPT 생성 QA 데이터셋을 통합한 데이터셋에서 AUROC 점수 0.918을 기록하며, 제로샷 GPT-3.5(0.721)와 GPT-4(0.577)를 모두 능가한다.
• GPTZero(0.797 AUROC)와 Originality.AI(0.906 AUROC)를 뛰어넘어 테스트된 데이터셋에서 최신 기술 수준의 성능을 보였다.
• 다양한 데이터 유형에서 일관된 성능을 보이며, 새로운 QA 생성 작업에서 기계 생성 콘텐츠 탐지에 특히 뛰어난 성능을 보였다.
• 마스킹 비율에 민감하며, 최적의 결과는 α = 0.08에서 얻어졌고, 평균화 샘플 수(β)를 늘일수록 통계적 신뢰성이 향상되었다.
• GPT-4 재작성 버전 탐지에 한계를 보이며, 재구성된 콘텐츠에서 스타일적 단서를 유지하는 데 어려움을 겪는다는 점을 시사한다.
• 거짓 긍정이 여전히 우려되는 문제로, 인간이 작성한 텍스트가 모델 출력과 유사한 경우가 많아 향후 보완이 필요하다.

Figure 2: The figure on the left is the histogram plots for the cosine similarity of the test datasets before the Box-Cox transformation. The figure on the right is the histogram plots for the cosine similarity of the test datasets after the Box-Cox transformation.