[論文レビュー] Evade ChatGPT Detectors via A Single Space

Shuyang Cai, Wanyun Cui|arXiv (Cornell University)|Jul 5, 2023

Topic Modeling被引用数 8

ひとこと要約

論文は検出器が意味的または文体的ギャップに依存しないことを示す。カンマの前に空白を1つ入れる SpaceInfi が、複数のベンチマークで白箱・黒箱検出器の両方を回避でき、トークン変異が効果を説明する。

ABSTRACT

ChatGPT brings revolutionary social value but also raises concerns about the misuse of AI-generated text. Consequently, an important question is how to detect whether texts are generated by ChatGPT or by human. Existing detectors are built upon the assumption that there are distributional gaps between human-generated and AI-generated text. These gaps are typically identified using statistical information or classifiers. Our research challenges the distributional gap assumption in detectors. We find that detectors do not effectively discriminate the semantic and stylistic gaps between human-generated and AI-generated text. Instead, the "subtle differences", such as an extra space, become crucial for detection. Based on this discovery, we propose the SpaceInfi strategy to evade detection. Experiments demonstrate the effectiveness of this strategy across multiple benchmarks and detectors. We also provide a theoretical explanation for why SpaceInfi is successful in evading perplexity-based detection. And we empirically show that a phenomenon called token mutation causes the evasion for language model-based detectors. Our findings offer new insights and challenges for understanding and constructing more applicable ChatGPT detectors.

研究の動機と目的

• 検出器が人間生成とAI生成テキストの間の意味的または文体的ギャップに依存しているという仮定を疑う。
• 複数の検出器を回避する、コストなしの単純な回避戦略を示す。
• 空白挿入がトークン変異および困難度に基づく指標で検出を回避する理由を理論的に説明する。
• SpaceInfi を多様なベンチマークと検出器で実証的に評価する。
• より堅牢なAI生成テキスト検出器を設計する際の示唆を論じる。

提案手法

• SpaceInfi を定義する：AI生成テキストの段落ごとにランダムなカンマの前に1つの空白を挿入する。
• SpaceInfi を複数のベンチマーク（Alpaca、Vicuna-eval、WizardLM-eval、Alpaca-GPT4）および検出器（GPTZero、HelloSimpleAI、MPU）で評価する。
• SpaceInfi 後に検出器が人間生成と分類したテキストの比率として回避率を算出する。
• 空白挿入によって生じるトークン変異が検出器の表現に与える影響を分析し、検出器の挙動を説明する。
• トークン変異とその一般性をトークン種類および検出器間で調査する。
• SpaceInfi を act-like-a-human やスタイル転送などのベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 検出器は人間生成とAI生成テキストを区別する際、意味的または文体的ギャップに依存しているのか。
• RQ2 空白を1つ挿入するような最小限の文本修正で、白箱・黒箱検出器の両方を一貫して回避できるか。
• RQ3 SpaceInfi の成功と困難度ベースの検出器への影響を説明する基盤的機構（例：トークン変異）は何か。
• RQ4 スタイル転送は SpaceInfi と比較して回避手法として有効か。
• RQ5 SpaceInfi の攻撃はモデル・検出器・トークンタイプ間でどれほど一般的か。

主な発見

• SpaceInfi は複数のベンチマークで GPTZero および HelloSimpleAI の検出率を大幅に低下させ、多くの場合ほぼ0％に近い。
• 検出器は意味内容を効果的には利用していない；「As an AI model」のようなフレーズがあっても人間生成と分類されることがある。
• スタイル転送は回避に影響を与えるのに高度に強いスタイルを必要とし、SpaceInfi より現実的ではない。
• 空白挿入によって生じるトークン変異は検出器の表現を変化させ（トークン変異）、LMベースの検出器が回避される理由を説明する。
• 困難度ベースの検出器は、追加の空白が困難度を高めるため、困難度ベースの検出器を欺くことができる。
• トークン変異は、わずかな知覚的変化が言語モデルの大きな表現の変化をもたらし得ることを示す。