[論文レビュー] GPT detectors are biased against non-native English writers

Weixin Liang, Mert Yüksekgönül+3 more|arXiv (Cornell University)|Apr 6, 2023

Artificial Intelligence in Healthcare and Education被引用数 37

ひとこと要約

GPT検出器は多くの非母語英語のエッセイをAI生成と誤分類する一方、母語英語の文は正しく識別される；単純なプロンプトは検出器を回避でき、教育と評価の倫理的懸念を生む。

ABSTRACT

The rapid adoption of generative language models has brought about substantial advancements in digital communication, while simultaneously raising concerns regarding the potential misuse of AI-generated content. Although numerous detection methods have been proposed to differentiate between AI and human-generated content, the fairness and robustness of these detectors remain underexplored. In this study, we evaluate the performance of several widely-used GPT detectors using writing samples from native and non-native English writers. Our findings reveal that these detectors consistently misclassify non-native English writing samples as AI-generated, whereas native writing samples are accurately identified. Furthermore, we demonstrate that simple prompting strategies can not only mitigate this bias but also effectively bypass GPT detectors, suggesting that GPT detectors may unintentionally penalize writers with constrained linguistic expressions. Our results call for a broader conversation about the ethical implications of deploying ChatGPT content detectors and caution against their use in evaluative or educational settings, particularly when they may inadvertently penalize or exclude non-native English speakers from the global discourse. The published version of this study can be accessed at: www.cell.com/patterns/fulltext/S2666-3899(23)00130-7

研究の動機と目的

• 母語英語と非母語英語の作文サンプルに対する公開されているGPT検出器の公正性と頑健性を評価する。
• 検出器間で非母語作家の偽陽性と母語作家の偽陰性を定量化する。
• 言語的強化やプロンプトが検出器の性能に影響を与えるかを調査する。
• 検出器の困惑度（perplexity）への依存が非母語作者に対するバイアスに寄与しているかを検討する。
• AIコンテンツ検出器のより安全で公正な利用のための推奨事項を提供する。

提案手法

• TOEFLエッセイ（非母語作家）と米国の8年生エッセイ（母語作家）に対して市販の7つのGPT検出器を評価する。
• 検出器間の偽陽性率とAI生成分類の一致性を算出する。
• グループ間の困惑度差を分析し、検出結果と相関を検討する。
• ChatGPTプロンプトを用いて言語を強化または簡略化し、誤分類と困惑度への影響を評価する。
• 第2ラウンドのセルフ編集プロンプトで検出回避の可能性を評価する。
• 分析を補足するためにICLR 2023受理論文を横断的にチェックし、母語と非母語の著者による困惑度差を評価する。

実験結果

リサーチクエスチョン

• RQ1 GPT検出器は複数の検出器で非母語英語の作文に対して母語作文より偽陽性率が高くなるか。
• RQ2 言語的強化やプロンプティング戦略は検出器のバイアスを緩和するか、あるいは検出を回避する可能性を高めるか。
• RQ3 困惑度は母語/非母語の作文を横断してAI生成テキストを検出する信号として信頼できるのか。
• RQ4 検出器のバイアスはTOEFL/大学英語のエッセイを超えた学術的文書（例：会議要約）に適用するとどのように現れるのか。

主な発見

• 非母語のTOEFLエッセイの半数超をAI生成として誤分類（平均偽陽性率: 61.22%）。
• 検出器はTOEFLの91件中18件を全検出器一致でAI生成として識別したが、少なくとも1つの検出器では89件中91件が指摘された。
• 非母語エッセイをChatGPTで母語話者風の語選択に強化すると誤分類が61.22%から11.77%に低下し（1/91が全AI作成として一致）、大幅に改善された。
• 対照的に、母語の大学エッセイを非母語風に単純化すると誤分類が56.65%に増加した。
• 第2ラウンドのセルフエディットプロンプトは検出率を大きく低下させる可能性があり（最大で100%から13%へ、ケースによる）、困惑度を高め、プロンプト設計への脆弱性を示す。
• ICLR 2023の要旨を用いた分析では非母語作者が要旨の困惑度が低いことが示され、言語的変動性と検出器バイアスの関連を支持する。