[論文レビュー] A Benchmark Corpus for the Detection of Automatically Generated Text in Academic Publications

Vijini Liyanage, Davide Buscaldi+1 more|arXiv (Cornell University)|Feb 4, 2022

Topic Modeling被引用数 13

ひとこと要約

本論文は、GPT-2とArxiv-NLPを用いたAI生成学術文書の検出を目的としたベンチマークコーパスを紹介する。1つは完全にGPT-2で生成されたコンテンツから構成されるデータセット、もう1つは要約の一部をArxiv-NLPで生成された文に置き換えたハイブリッドテキストからなるデータセットである。主な貢献は、DistilBERTを用いて最高で70.2％の分類精度を達成する挑戦的なベンチマークを提供することであり、高品質な合成学術文書の検出の難易度を示し、より優れた検出手法の必要性を強調している。

ABSTRACT

Automatic text generation based on neural language models has achieved performance levels that make the generated text almost indistinguishable from those written by humans. Despite the value that text generation can have in various applications, it can also be employed for malicious tasks. The diffusion of such practices represent a threat to the quality of academic publishing. To address these problems, we propose in this paper two datasets comprised of artificially generated research content: a completely synthetic dataset and a partial text substitution dataset. In the first case, the content is completely generated by the GPT-2 model after a short prompt extracted from original papers. The partial or hybrid dataset is created by replacing several sentences of abstracts with sentences that are generated by the Arxiv-NLP model. We evaluate the quality of the datasets comparing the generated texts to aligned original texts using fluency metrics such as BLEU and ROUGE. The more natural the artificial texts seem, the more difficult they are to detect and the better is the benchmark. We also evaluate the difficulty of the task of distinguishing original from generated text by using state-of-the-art classification models.

研究の動機と目的

• 研究の整合性を損なうAI生成学術コンテンツの増加する脅威に対処すること。
• 合成学術文書を検出するための高品質なベンチマークデータセットを作成すること。
• 人間が執筆した内容とAI生成された研究コンテンツを区別する難易度を評価すること。
• 検出モデルの訓練およびテストに再現可能でスケーラブルなリソースを提供すること。
• 学術出版における言語モデルの乱用を検出するための強固なツールの開発を支援すること。

提案手法

• 元の論文から抽出した短いプロンプトをもとに、GPT-2モデルを用いて完全に合成された研究コンテンツを生成することで、完全に合成されたデータセットを構築する。
• 元の論文の要約から特定の文を選び、それらをArxiv-NLPモデルで生成されたテキストに置き換えることで、ハイブリッドデータセットを構築する。
• 自然さと一貫性を確保するため、文の流れを評価する指標（BLEUやROUGEなど）を用いてテキスト品質を評価する。
• BERT、DistilBERT、LSTM、SVMなどの複数の分類モデルを、両方のデータセット上で訓練および評価し、検出の難易度を評価する。
• 先行研究との比較を通じて、ベンチマークの難易度レベルを検証する。
• 両方のデータセットにおいて、元のテキストと生成されたテキストを区別する二値分類の枠組みを用いる。

実験結果

リサーチクエスチョン

• RQ1 最先端のモデルは、完全に合成されたデータセットおよびハイブリッドデータセットにおいて、AI生成学術文書をどれほど効果的に検出できるか。
• RQ2 BLEU や ROUGE などの文の流れの指標は、生成された学術的コンテンツの自然さをどの程度反映しているか。
• RQ3 完全に生成されたテキストと部分的に置き換えられた（ハイブリッド）テキストの間で、検出の難易度にどのような差があるか。
• RQ4 既存の検出モデルは、高品質な合成学術文書と人間が執筆した内容を信頼性を持って区別できるか。
• RQ5 本研究で提示されたベンチマークは、先行研究における検出ベンチマークと比較してどの程度難易度が高いのか。

主な発見

• DistilBERTモデルは完全に生成されたデータセットで62.5％の最高分類精度を達成し、高品質な合成コンテンツの検出可能性は中程度であることを示している。
• ハイブリッドデータセットでは、DistilBERTが70.2％の精度を達成しており、完全に合成されたコンテンツよりも部分的な置換が検出の難易度を高めていることが示された。
• LSTMを除き、ほとんどのモデルがハイブリッドデータセットでより高い難易度を示しており、完全に生成されたセットよりも困難であることが確認された。
• 分類結果は、先行研究（例：Maronikolakis et al., 2020）で報告されたものよりも顕著に低く、本研究で提示されたベンチマークがより難易度が高く、検出システムの評価に適していることを裏付けた。
• モデル全体の全体的な精度が低く、最高でも70.2％にとどまっていることから、現在の検出手法は依然として不十分であることが示され、高度なAI生成学術文書の検出という未解決の課題が浮き彫りになった。
• 高品質な合成およびハイブリッド学術コンテンツから構成される本ベンチマークコーパスは、今後のAI生成学術的コンテンツの自動検出に関する研究の基盤として効果的である。