[논문 리뷰] Zero-Shot Detection of Machine-Generated Codes

Xianjun Yang, Kexun Zhang외 4명|arXiv (Cornell University)|2023. 10. 08.

Software Engineering ResearchComputer Science인용 수 3

한 줄 요약

이 논문은 GPT-3.5, GPT-4, 및 text-davinci-003을 포함한 파이썬 및 자바 데이터셋에서 최신 기술 성능을 달성하는, 훈련 없이 zero-shot으로 기계 생성 코드를 탐지하는 DetectGPT4Code를 제안한다. 이 방법은 우회적 백색 상자 모델을 사용해 우측 끝 토큰의 확률을 추정하며, PolyCoder-160M 모델이 가장 효과적인 통합 탐지기로 부상한다.

ABSTRACT

This work proposes a training-free approach for the detection of LLMs-generated codes, mitigating the risks associated with their indiscriminate usage. To the best of our knowledge, our research is the first to investigate zero-shot detection techniques applied to code generated by advanced black-box LLMs like ChatGPT. Firstly, we find that existing training-based or zero-shot text detectors are ineffective in detecting code, likely due to the unique statistical properties found in code structures. We then modify the previous zero-shot text detection method, DetectGPT (Mitchell et al., 2023) by utilizing a surrogate white-box model to estimate the probability of the rightmost tokens, allowing us to identify code snippets generated by language models. Through extensive experiments conducted on the python codes of the CodeContest and APPS dataset, our approach demonstrates its effectiveness by achieving state-of-the-art detection results on text-davinci-003, GPT-3.5, and GPT-4 models. Moreover, our method exhibits robustness against revision attacks and generalizes well to Java codes. We also find that the smaller code language model like PolyCoder-160M performs as a universal code detector, outperforming the billion-scale counterpart. The codes will be available at https://github.com/ Xianjun-Yang/Code_detection.git

연구 동기 및 목표

• GPT-4 및 Codex와 같은 고도로 발전한 LLM들로부터 유도되는 탐지되지 않은 기계 생성 코드의 위험 증가 문제를 해결하기 위해.
• 코드의 고유한 통계적 특성(예: 낮은 엔트로피)으로 인해 기존 텍스트 기반 탐지기가 실패하는 이유를 탐구하기 위해.
• 모델 미세조정이 필요 없이 블랙박스 LLM이 생성한 코드에 특화된 zero-shot 탐지 방법을 개발하기 위해.
• 사용자가 생성된 코드를 수정하여 탐지 회피를 시도하는 수정 공격에 대한 탐지 방법의 강건성 평가를 위해.
• 다양한 프로그래밍 언어와 모델에 걸쳐 통합 탐지기로 사용 가능한 작은 코드 전용 모델의 잠재력을 탐색하기 위해.

제안 방법

• GPT-4와 같은 블랙박스 모델에서 출력 로짓에 접근할 수 없기 때문에, 기존의 zero-shot 텍스트 탐지기 DetectGPT를 개선하기 위해 우회적 백색 상자 모델을 도입한다.
• 제어된 수의 라인(최적: 8라인)을 마스킹함으로써 편집된 코드 스니펫을 생성하기 위해 '중간에 채우기'(FIM) 작업을 사용한다.
• 우회적 모델을 사용해 앞서 오는 맥락을 기반으로 우측 끝 토큰의 확률을 계산하며, 점수 창을 제어하는 비율 γ를 사용한다.
• 각 코드 스니펫에 대해 우측 끝 토큰의 추정 확률을 기반으로 점수를 매기며, 탐지 목적을 위해 사전 정의된 임계값과 비교한다.
• 원본 LLM의 내부 로짓에 접근할 수 없더라도 우회적 모델을 활용해 가능성을 추정함으로써, 블랙박스 환경에서도 탐지가 가능하도록 한다.
• 다양한 데이터셋(CodeContest, APPS)과 프로그래밍 언어(파이썬, 자바)를 대상으로 적용하여 일반화 능력과 강건성 평가를 수행한다.

실험 결과

연구 질문

• RQ1 GPT-3.5 및 GPT-4와 같은 고급 LLM이 생성한 코드를 효과적으로 탐지할 수 있는 기존의 zero-shot 또는 훈련 기반 텍스트 탐지기는 존재하는가?
• RQ2 코드의 구조적 및 통계적 고유성(예: 낮은 엔트로피)은 표준 텍스트 탐지기의 성능에 어떤 영향을 미치는가?
• RQ3 우회적 백색 상자 모델이 블랙박스 LLM 환경에서 코드의 우측 끝 토큰 확률을 효과적으로 추정하여 zero-shot 탐지가 가능한가?
• RQ4 사용자가 생성된 코드를 수정하여 탐지 회피를 시도하는 수정 공격에 대해 제안된 방법의 강건성은 어떠한가?
• RQ5 작은 코드 전용 언어 모델이 기계 생성 코드에 대한 통합 탐지기로 더 큰 일반 목적 LLM보다 뛰어나게 작동하는가?

주요 결과

• 기존의 텍스트 탐지기, 특히 DetectGPT조차도 코드의 고유한 통계적 특성(낮은 엔트로피 등)으로 인해 고급 LLM(GPT-3.5, GPT-4)이 생성한 코드를 탐지하지 못한다.
• 제안된 DetectGPT4Code 방법은 APPS-GPT3에서 최고 성능 AUROC 점수 79.89를 기록했으며, APPS-GPT4에서는 77.90를 기록했고, TPR은 각각 47.82% 및 45.93%에 이르렀다.
• FIM 작업에서 8라인 마스킹이 최적의 탐지 성능을 낳으며, 이를 초과하거나 저하할 경우 부족하거나 과도한 편집으로 인해 AUROC 및 TPR이 떨어진다.
• 수정 공격에 대해 강건함을 유지한다: APPS-GPT4에서 4라인 수정 시 AUROC 점수는 단지 3.09 포인트 하락하며, 이는 강력한 회피 저항성을 시사한다.
• 놀랍게도, 더 작은 PolyCoder-160M 모델이 모든 벤치마크, 프로그래밍 언어, LLM에서 더 큰 모델보다 우수한 성능을 보이며 우회적 탐지기로 작용한다.
• 자바로 전환할 경우 성능이 크게 떨어지며, 특히 자바에 대해 미세조정되지 않은 모델에서는 더욱 심각한 성능 저하가 발생함을 확인하여, 향후 작업에서 언어별 적응이 필요함을 시사한다.