[論文レビュー] Unsupervised and Distributional Detection of Machine-Generated Text

Matthias Gallé, Jos Rozen+2 more|arXiv (Cornell University)|Nov 4, 2021

Topic Modeling被引用数 10

ひとこと要約

本稿では、大規模なテキストコレクションにおける過剰に代表される高次n-gram（特にスーパー最大繰り返し）を特定することで、教師ありでない分布的アプローチを提案し、機械生成テキストを検出する。この繰り返しフレーズを弱い信号として活用し、アンサンブル分類器を用いた自己学習を実施することで、不審なドキュメントをランク付けする。GPT2-largeを用いたトップ-kサンプリングでは5,000件以内で90%以上の正確性を達成し、ヌクレアスサンプリングでは80%以上を達成する。

ABSTRACT

The power of natural language generation models has provoked a flurry of interest in automatic methods to detect if a piece of text is human or machine-authored. The problem so far has been framed in a standard supervised way and consists in training a classifier on annotated data to predict the origin of one given new document. In this paper, we frame the problem in an unsupervised and distributional way: we assume that we have access to a large collection of unannotated documents, a big fraction of which is machine-generated. We propose a method to detect those machine-generated documents leveraging repeated higher-order n-grams, which we show over-appear in machine-generated text as compared to human ones. That weak signal is the starting point of a self-training setting where pseudo-labelled documents are used to train an ensemble of classifiers. Our experiments show that leveraging that signal allows us to rank suspicious documents accurately. Precision at 5000 is over 90% for top-k sampling strategies, and over 80% for nucleus sampling for the largest model we used (GPT2-large). The drop with increased size of model is small, which could indicate that the results hold for other current and future large language models.

研究の動機と目的

• ラベル付きデータに依存し、分布シフトに敏感な教師あり検出手法の限界を克服すること。
• 事前にアノテーションが不要な状況で、合成テキストの割合が高いコロナスにおいて機械生成テキストを検出すること。
• 機械生成テキストと人間が書いたテキストを区別する分布的パターン（特に繰り返しの高い高次n-gram）を特定すること。
• 人間が生成した訓練データセットを必要とせず、偽ラベル付きデータを用いて検出性能を向上させるスケーラブルな自己学習フレームワークを開発すること。
• 異なるデコード戦略（トップ-kとヌクレアス）およびモデルサイズを用いて、性能の堅牢性と一般化能力を評価すること。

提案手法

• 大規模でアノテーションのないドキュメントコレクション全体にわたって、スーパー最大繰り返し（より長い繰り返しに含まれない最長の繰り返し部分文字列）を検出する。
• このような繰り返しの存在を、機械生成テキストに頻出すると仮定し、それらを弱い信号として、おそらく機械生成とされるドキュメントを特定する。
• 自己学習パイプラインを適用：顕著な繰り返しが含まれるドキュメントを機械生成済み（偽ラベル付け）とし、そのデータでアンサンブル分類器を学習する。
• 金の人工生成テキストを正例、繰り返しが豊富なドキュメントを負例として、偽ラベル付きデータ上でバイナリ分類器（微調整済みの distilled BERT）を学習する。
• 複数の分類器の多数決による投票を用いることで、耐障害性とランク付け性能を向上させる。
• 上位-m番目にランク付けされたドキュメントのうち、実際に機械生成であるものの割合を測定する指標として、mにおける正確性（prec@m）を評価する。

実験結果

リサーチクエスチョン

• RQ1 過剰に代表される高次n-gramは、ラベルなしの大規模コロナスにおいて、機械生成テキストを検出するための信頼できる教師ありでない信号として機能するか？
• RQ2 繰り返し頻度に基づく偽ラベル付きドキュメントを用いた自己学習アプローチは、検出性能の向上にどの程度有効か？
• RQ3 トップ-kとヌクレアスの異なるデコード戦略、および小・中・大規模なGPT2のモデルサイズにわたって、この手法は一般化可能か？
• RQ4 生成モデルやデコード戦略が変更された場合、教師ありベースラインと比較して性能がどの程度低下するか？
• RQ5 ユニグラムレベルの統計が人間のテキストと区別できない状況でも、この手法は機械生成コンテンツを検出可能か？

主な発見

• スーパー最大繰り返しは、人間が書いたテキストと比較して、機械生成テキストにおいて顕著に頻出するため、検出のための信頼できる弱い信号を形成する。
• この信号を偽ラベル付けに用いることで、自己学習パイプラインが構築され、GPT2-largeを用いたトップ-kサンプリングで5,000件以内で90%以上の正確性を達成する。
• ヌクレアスサンプリングでは、同じモデルで5,000件以内で80%以上の正確性を達成し、デコード戦略にわたる高い耐障害性を示す。
• 教師ありと半教師ありの設定における性能差は顕著であり、弱い信号を効果的に活用することで、教師あり性能に近い結果を得られることを示している。
• 生成モデルやデコード戦略が変更されても、この手法は有効であるため、現在および将来のLLMに一般化可能であると考えられる。
• 生成テキストの多様性と検出精度が相関しており、より多様な出力を生成するトップ-kサンプリングでは、ヌクレアスサンプリングよりも高い検出性能を示す。