[논문 리뷰] Bot or Human? Detecting ChatGPT Imposters with A Single Question

Hong Wang, Xuan Luo외 2명|arXiv (Cornell University)|2023. 05. 10.

Topic Modeling인용 수 7

한 줄 요약

이 논문은 대화형 봇을 탐지하기 위해 인간과 LLM 간 인지적 차이를 악용하는 단일 전략적 질문을 사용하는 FLAIR 프레임워크를 제안한다. 인간이 유리한 과제들(예: 기호적 조작, ASCII 추론)과 LLM이 어려워하는 과제들을 활용함으로써, FLAIR는 인간 탐지 정확도가 100%에 가까운 성능을 달성하면서도 LLM은 이러한 과제에서 실패함으로써 전통적인 CAPTCHA의 대안으로서 실시간으로도 효과적인 강력한 방법을 제공한다.

ABSTRACT

Large language models (LLMs) like GPT-4 have recently demonstrated impressive capabilities in natural language understanding and generation. However, there is a concern that they can be misused for malicious purposes, such as fraud or denial-of-service attacks. Therefore, it is crucial to develop methods for detecting whether the party involved in a conversation is a bot or a human. In this paper, we propose a framework named FLAIR, Finding Large Language Model Authenticity via a Single Inquiry and Response, to detect conversational bots in an online manner. Specifically, we target a single question scenario that can effectively differentiate human users from bots. The questions are divided into two categories: those that are easy for humans but difficult for bots (e.g., counting, substitution, searching, and ASCII art reasoning), and those that are easy for bots but difficult for humans (e.g., memorization and computation). Our approach shows different strengths of these questions in their effectiveness, providing a new way for online service providers to protect themselves against nefarious activities. Our code and question set are available at https://github.com/hongwang600/FLAIR.

연구 동기 및 목표

• 온라인 서비스에서 LLM 기반 봇이 인간을 위장하는 증가하는 위협을 해결하기 위해.
• 텍스트 전용 대화 봇을 탐지하는 데에 전통적인 CAPTCHA의 한계를 극복하기 위해.
• 실시간으로 작동하며 신뢰성 있게 인간 사용자와 LLM 기반 응답을 구분할 수 있는 단일 질문 기반 탐지 방법을 개발하기 위해.
• 인간이 LLM보다 뛰어난 특정 인지 과제를 특정하여 효과적인 봇 탐지 방법을 마련하기 위해.

제안 방법

• 인간과 LLM 간 능력의 비대칭성을 악용하는 질문 세트를 설계: 인간에게 쉬운 과제(예: ASCII 아트 추론, 기호적 조작)와 LLM에게 어려운 과제, 반대로 LLM에게 쉬운 과제(예: 기억력, 계산)와 인간에게 어려운 과제.
• 질문을 두 가지 범주로 분류: 인간이 잘하는 과제(예: 세기, 치환, 검색, ASCII 추론)와 LLM이 잘하는 과제(예: 기억력, 계산).
• 단일 질문을 통해 성능 격차에 기반해 응답자의 신원을 드러내는 반응을 유도한다.
• 여러 LLM(예: GPT-4, Vicuna-13b)과 인간 참가자들이 이러한 과제에서 수행한 성능을 평가하여 탐지 정확도를 측정한다.
• 사슬형 사고 프롬프팅과 코드 생성 프롬프팅을 적용하여 LLM이 과제의 한계를 극복할 수 있는지 테스트한다.
• 행동 탐지 방법(예: 상호작용 시간, 입력 패턴)과 통합하여 탐지의 강건성을 향상시킨다.

실험 결과

연구 질문

• RQ1 단일이고 철저히 설계된 질문이 실시간 온라인 상호작용에서 인간 사용자와 LLM 기반 대화 봇을 신뢰성 있게 구분할 수 있는가?
• RQ2 어떤 종류의 인지 과제가 LLM에게는 본질적으로 어려운 반면 인간에게는 처리 가능한가, 반대로 인간에게는 어려운가?
• RQ3 다른 LLM 아키텍처(예: GPT-4 대비 Vicuna-13b)는 인간의 특수한 강점에 기반한 과제에서 어떻게 성능을 보이는가?
• RQ4 프롬프팅 기법(예: 사슬형 사고, 코드 생성)을 통해 LLM이 스스로 어려워하는 과제를 극복할 수 있는 정도는 어느 정도인가?
• RQ5 소수 예시 추론 질문은 훈련 예제를 초월해 일반화하지 못할 경우 LLM을 탐지하는 데 사용될 수 있는가?

주요 결과

• 인간은 기호적 조작, 무작위성, 검색, ASCII 아트 추론 과제에서 100% 정확도를 기록했지만, GPT-4와 같은 LLM은 이 과제에서 거의 0%에 가까운 점수를 받았다.
• GPT-4와 같은 LLM은 기억력과 계산 과제에서 거의 완벽한 정확도(약 100%)를 기록했지만, 인간 참가자는 각각 6%와 2%의 성공률을 기록했다.
• 사슬형 사고 프롬프팅은 세기와 치환과 같은 분해 가능한 과제에서 LLM의 성능을 향상시켰지만, 검색과 ASCII 추론 과제에서는 성능 향상에 실패했다.
• 수동적인 코드 생성 프롬프팅을 통해 GPT-4는 세기, 치환, 검색 과제에서 100% 정확도를 달성했지만, ASCII 아트 추론 과제에서는 전혀 성공하지 못해 0% 정확도를 기록했다.
• LLM이 코드를 사용하도록 유도하더라도 이 프레임워크는 여전히 효과적이며, 특히 시각적 및 패턴 기반 추론 과제에서 정확한 코드를 생성하지 못해 실패한다.
• 이 방법은 인간의 타이핑 패턴, 반응 시간 등의 행동 생체 인식 기술과 통합될 잠재력이 높아, 진화하는 LLM 능력에 대비한 탐지 강건성을 향상시킬 수 있다.