[논문 리뷰] Fighting Fire with Fire: Can ChatGPT Detect AI-generated Text?

Amrita Bhattacharjee, Huan Liu|arXiv (Cornell University)|2023. 08. 02.

Topic Modeling인용 수 6

한 줄 요약

이 논문은 ChatGPT가 AI 생성 텍스트를 식별할 수 있는지 여부를 조사하며, 이를 제로샷 분류기로 간주한다. 비록 AI 생성 텍스트를 식별하는 데 어려움을 겪지만, ChatGPT(특히 GPT-3.5)는 인간이 작성한 텍스트를 식별하는 데서 뛰어난 성능을 보이며, 이 강점을 활용해 간접적으로도 높은 신뢰도로 AI 생성 텍스트를 식별할 수 있는 비대칭 탐지 전략을 가능하게 한다.

ABSTRACT

Large language models (LLMs) such as ChatGPT are increasingly being used for various use cases, including text content generation at scale. Although detection methods for such AI-generated text exist already, we investigate ChatGPT's performance as a detector on such AI-generated text, inspired by works that use ChatGPT as a data labeler or annotator. We evaluate the zero-shot performance of ChatGPT in the task of human-written vs. AI-generated text detection, and perform experiments on publicly available datasets. We empirically investigate if ChatGPT is symmetrically effective in detecting AI-generated or human-written text. Our findings provide insight on how ChatGPT and similar LLMs may be leveraged in automated detection pipelines by simply focusing on solving a specific aspect of the problem and deriving the rest from that solution. All code and data is available at https://github.com/AmritaBh/ChatGPT-as-Detector.

연구 동기 및 목표

• 대규모 언어 모델이 ChatGPT와 같이 제로샷 탐지기로 AI 생성 텍스트를 식별할 수 있는지 평가하는 것.
• ChatGPT가 인간이 작성한 텍스트와 AI 생성 텍스트를 구분할 때 나타나는 비대칭적 성능을 조사하는 것.
• ChatGPT의 인간 텍스트 식별 능력이 뛰어나다는 점을 활용해 간접적이지만 효과적인 AI 텍스트 탐지 파이프라인을 구축할 수 있는지 탐색하는 것.
• 이 탐지 작업에서 GPT-3.5와 GPT-4 간의 모델별 성능 차이를 분석하는 것.
• 모델의 데이터셋 아티팩트 및 시간에 따른 민감도 변화가 탐지 신뢰도에 미치는 영향을 이해하는 것.

제안 방법

• ChatGPT(GPT-3.5 및 GPT-4)를 피팅 조정 없이 인간이 작성한 텍스트와 AI 생성 텍스트를 구분하는 제로샷 분류기로 사용한다.
• 모델은 각 입력 샘플에 대해 이진 분류 지시어를 받는다: '이 텍스트는 인간이 작성했는지, AI가 작성했는지?'.
• 공개된 TuringBench 데이터셋을 활용해 실험을 수행하며, 이 데이터셋에는 CNN과 워싱턴포스트의 인간 기사와 19종의 다양한 AI 생성기에서 나온 텍스트가 포함되어 있다.
• 다양한 생성기 유형과 텍스트 스타일에 대해 정확도, 정밀도, 재현율, F1 점수와 같은 표준 지표를 사용해 성능을 평가한다.
• 동일한 벤치마크에서 GPT-3.5와 GPT-4의 성능을 비교하여 내성적이고 신뢰할 수 있는 성능의 차이를 평가한다.
• 간접 탐지 전략을 제안하며, 인간이 작성한 텍스트를 신뢰성 있게 식별하는 방식을 통해 배제 원리에 기반해 AI 생성 텍스트를 추론한다.

실험 결과

연구 질문

• RQ1 ChatGPT는 제로샷 설정에서 AI 생성 텍스트를 정확하게 탐지할 수 있는가?
• RQ2 ChatGPT의 AI 생성 텍스트 탐지 성능와 인간이 작성한 텍스트 탐지 성능 간의 차이는 어떻게 다른가?
• RQ3 GPT-3.5는 인간이 작성한 텍스트를 탐지할 때 GPT-4를 초월하는가? 만약 그렇다면 그 이유는 무엇인가?
• RQ4 데이터셋 아티팩트와 모델 민감도는 시간이 지남에 따라 탐지 신뢰도에 어떤 영향을 미치는가?
• RQ5 ChatGPT의 비대칭 탐지 능력을 활용해 효과적인 간접 AI 텍스트 탐지 파이프라인을 구축할 수 있는가?

주요 결과

• GPT-3.5는 GPT-4보다 인간이 작성한 텍스트 식별에서 뚜렷이 뛰어난 성능을 보이며, 거짓 음성 비율이 낮다.
• GPT-4는 웹 스크래핑된 데이터에서 유래한 아티팩트와 노이즈에 매우 민감하여 시간이 지남에 따라 성능이 불안정하고 악화된다.
• ChatGPT는 AI 생성 텍스트를 식별하는 데 어려움을 겪으며, 특히 최신 또는 더 고급 생성기에서 나온 텍스트에 대해 더욱 심각한 기본적인 비대칭 탐지 능력을 보인다.
• AI 생성 텍스트 식별 성능가 낮음에도 불구하고, ChatGPT의 강력한 인간 텍스트 식별 능력 덕분에 AI 생성 텍스트를 간접적으로 효과적으로 식별할 수 있는 전략이 가능하다.
• GPT-3.5와 GPT-4 간의 성능 격차는 더 큰 모델일수록 데이터 아티팩트에 더 민감해지므로, 항상 더 신뢰할 수 있는 탐지 성능을 보이지 않을 수 있음을 시사한다.
• 결과적으로, 인간이 작성한 텍스트 식별을 탐지의 대체 지표로 삼는 방식을 통해 GPT-3.5와 같은 LLM을 자동 탐지 파이프라인의 신뢰할 수 있는 구성 요소로 활용할 수 있음을 뒷받침한다.