[論文レビュー] Testing of Detection Tools for AI-Generated Text

Debora Weber-Wulff, Alla Anohina-Naumeca+6 more|arXiv (Cornell University)|Jun 21, 2023

Artificial Intelligence in Healthcare and Education被引用数 33

ひとこと要約

本論文は12個の公開検出ツールと2つの商用システム（TurnitinとPlagiarismCheck）を評価し、それらは一般に不正確であり、テキストを人間作成とラベル付けする傾向に偏っていることを発見した。難読化（オブファスケーション）手法は検出性能を著しく低下させる。

ABSTRACT

Recent advances in generative pre-trained transformer large language models have emphasised the potential risks of unfair use of artificial intelligence (AI) generated content in an academic environment and intensified efforts in searching for solutions to detect such content. The paper examines the general functionality of detection tools for artificial intelligence generated text and evaluates them based on accuracy and error type analysis. Specifically, the study seeks to answer research questions about whether existing detection tools can reliably differentiate between human-written text and ChatGPT-generated text, and whether machine translation and content obfuscation techniques affect the detection of AI-generated text. The research covers 12 publicly available tools and two commercial systems (Turnitin and PlagiarismCheck) that are widely used in the academic setting. The researchers conclude that the available detection tools are neither accurate nor reliable and have a main bias towards classifying the output as human-written rather than detecting AI-generated text. Furthermore, content obfuscation techniques significantly worsen the performance of tools. The study makes several significant contributions. First, it summarises up-to-date similar scientific and non-scientific efforts in the field. Second, it presents the result of one of the most comprehensive tests conducted so far, based on a rigorous research methodology, an original document set, and a broad coverage of tools. Third, it discusses the implications and drawbacks of using detection tools for AI-generated text in academic settings.

研究の動機と目的

• 既存の検出ツールが人間作成のテキストとAI生成テキストを信頼性を持って区別できるかを評価する（ChatGPT時代のコンテンツ）。
• 検出性能への翻訳とコンテンツ難読化の影響を評価する。
• 学術環境における現在の検出ツールとその制限について包括的な概要を提供する。

提案手法

• 12公開の検出ツールと2つの商用システム（TurnitinとPlagiarismCheck）をテストする。
• 元の文書セットを用いて精度と誤りのタイプを評価する。
• 精度分析と誤りタイプ分析を実施し、偏りと故障モードを特定する。
• 機械翻訳とコンテンツ難読化が検出結果に与える影響を調べる。

実験結果

リサーチクエスチョン

• RQ1 既存の検出ツールは人間作成のテキストとAI生成テキストを信頼性高く区別できるか？
• RQ2 機械翻訳技術はAI生成テキスト検出の精度に影響を与えるか？
• RQ3 コンテンツ難読化技術は検出ツールの性能を低下させるか？
• RQ4 検出器には内容を人間作成として分類する偏りがあり、AI生成として分類しづらいのか？

主な発見

• 検出ツールはAI生成テキストと人間作成テキストを区別するには正確でも信頼性があるわけでもない。
• 出力を人間作成として分類する主要な偏りがある、AI生成として分類するよりも。
• コンテンツ難読化技術は検出器の性能を重大に悪化させる。
• 本研究は複数のツールと設定にわたり、包括的で方法論的に厳密な評価を提供する。
• 学術環境で検出ツールを使用する際の影響と欠点を強調する。