[論文レビュー] M4: Multi-generator, Multi-domain, and Multi-lingual Black-Box Machine-Generated Text Detection

Yuxia Wang, Jonibek Mansurov+13 more|arXiv (Cornell University)|May 24, 2023

Hate Speech and Cyberbullying Detection被引用数 21

ひとこと要約

本論文は、複数の生成モデル、ドメイン、言語に跨る機械生成テキストの検出のための M4 ベンチマークを提案し、クロスドメイン、クロスジェネレータ、マルチリンガル設定における検出器の汎化を分析する。

ABSTRACT

Large language models (LLMs) have demonstrated remarkable capability to generate fluent responses to a wide variety of user queries. However, this has also raised concerns about the potential misuse of such texts in journalism, education, and academia. In this study, we strive to create automated systems that can detect machine-generated texts and pinpoint potential misuse. We first introduce a large-scale benchmark extbf{M4}, which is a multi-generator, multi-domain, and multi-lingual corpus for machine-generated text detection. Through an extensive empirical study of this dataset, we show that it is challenging for detectors to generalize well on instances from unseen domains or LLMs. In such cases, detectors tend to misclassify machine-generated text as human-written. These results show that the problem is far from solved and that there is a lot of room for improvement. We believe that our dataset will enable future research towards more robust approaches to this pressing societal problem. The dataset is available at https://github.com/mbzuai-nlp/M4.

研究の動機と目的

• 実世界の多言語コンテキストで、さまざまなドメインとモデルから生成されたテキストが出てくる状況において、機械生成テキストの堅牢な検出を動機づける。
• 複数の生成モデルとドメインを横断する大規模で多言語のベンチマーク（M4）を作成し、検出器を挑戦させる。
• 未然に見られないドメインや未見の生成モデルに直面したとき、異なる検出器がどれほど汎化するかを評価する。

提案手法

• 複数のドメインと言語（英語、中国語、ロシア語、ウルドゥー語、インドネシア語、アラビア語）からの並列の人間/機械データを用いた大規模な多言語コーパスを構築する。
• 人気のあるLLM群（例: ChatGPT、davinci-003、LLaMa、FlanT5、Cohere、Dolly-v2、BLOOMz）にプロンプトを与え、ドメインに適した内容を生成させる。
• 多様な検出モデルと特徴量を適用する：RoBERTaベースの分類器、XLM-R分類器、GLTR特徴量を用いたLR、スタイロメトリック/NELA特徴量、GPTZero。
• 3つの評価設定で検出器を比較する：ドメインをまたいで同じ生成器、生成器をまたいで同じドメイン、クロスリンガル・クロスジェネレータのシナリオ。

実験結果

リサーチクエスチョン

• RQ1 機械生成テキストである場合、あるドメインで訓練された検出器は他のドメインにどれだけ汎化できるか？
• RQ2 同じドメイン内で生成モデルが変わると、検出器の性能はどう変化するか？
• RQ3 多言語データが検出性能とクロス言語汎化に与える影響は？
• RQ4 どの特徴量セットとモデルが生成器・ドメイン・言語を跨いで最もよく転送されるか？

主な発見

• RoBERTaは一般に検出器間で最も強い同一ドメイン内の検出性能を発揮するが、異なるドメインでは性能が著しく低下する。
• あるドメインで訓練された検出器は未見のドメインでしばしば期待以下となり、クロスドメイン汎化の欠如を浮き彫りにする。
• GLTRベースのLR特徴量とスタイロメトリック/NELA特徴量は頑健性にばらつきがあり、NELAは純粋なスタイル特徴量よりも異常ドメインで安定した信号を提供することがある。
• GPTZeroはゼロショットのベンチマーク接続を提供するが、独自仕様ゆえ詳細な解釈が難しい。比較のため結果を含めている。
• クロスジェネレータ評価では、同一ドメイン内で未見の生成モデルに遭遇すると精度が大幅に低下することが示され、新しいLLMへの汎化が限定的であることを示唆する。
• 総じて、本研究は機械生成テキスト検出が依然として難しく、ドメイン・生成器・言語を跨いだ頑健性を向上させる余地が大きいと強調している。