[論文レビュー] Towards a Robust Detection of Language Model Generated Text: Is ChatGPT that Easy to Detect?

Wissam Antoun, Virginie Mouilleron+2 more|arXiv (Cornell University)|Jun 9, 2023

Topic Modeling被引用数 9

ひとこと要約

要約: 著者らは英語データを翻訳してトランスフォーマーをファインチューニングし、フランス語のChatGPT検出器を訓練する。ドメイン内検出は強力だが、ドメイン外や敵対的テキストへのロバストネスは限定的であり、データとモデルをオープンソースとして公開する。

ABSTRACT

Recent advances in natural language processing (NLP) have led to the development of large language models (LLMs) such as ChatGPT. This paper proposes a methodology for developing and evaluating ChatGPT detectors for French text, with a focus on investigating their robustness on out-of-domain data and against common attack schemes. The proposed method involves translating an English dataset into French and training a classifier on the translated data. Results show that the detectors can effectively detect ChatGPT-generated text, with a degree of robustness against basic attack techniques in in-domain settings. However, vulnerabilities are evident in out-of-domain contexts, highlighting the challenge of detecting adversarial text. The study emphasizes caution when applying in-domain testing results to a wider variety of content. We provide our translated datasets and models as open-source resources. https://gitlab.inria.fr/wantoun/robust-chatgpt-detection

研究の動機と目的

• 英語ソースから翻訳したデータを用いてフランス語テキストのChatGPT検出器を開発する。
• モノリンガルおよびマルチリンガル設定で、ドメイン内およびドメイン外の検出性能を評価する。
• 単純な敵対的攻撃（スペルミス、同形字）に対するロバスト性を試し、教育的ChatGPTスタイルへの依存を分析する。
• 翻訳データで訓練した検出器がネイティブなフランス語や他言語へ一般化するかを検討する。

提案手法

• Google Cloud Translation APIを用いて英語のHC3ベースデータセットをフランス語に翻訳する。
• 事前学習済みトランスフォーマーモデル（CamemBERT、CamemBERTa、RoBERTa、ELECTRA、XLM-R）を2値検出タスク（ChatGPT生成 vs 人間執筆）でファインチューニングする。
• 入力形式をQAペア、完全な回答、文レベルのチャンクで実験する。
• スペルミスや同形字置換でテストデータを拡張し、敵対的ロバスト性を評価する。
• ネイティブのフランス語のChatGPT出力やBingGPT出力を含む多様なフランス語データでドメイン内外の性能を評価する。
• 翻訳データとモデルをオープンソース資源として公開する。

実験結果

リサーチクエスチョン

• RQ1 翻訳された英語データで訓練されたChatGPT検出器は、フランス語のChatGPT生成テキストを信頼性高く検出できるか。
• RQ2 モノリンガルフランス語、モノリンガル英語、マルチリンガル設定で検出器の性能はどのように変化するか。
• RQ3 基本的な敵対的攻撃（スペルミス、同形字）およびドメイン外コンテンツに対する検出器のロバスト性はどうか。
• RQ4 検出器は discrimination のために ChatGPT/Bing の教育的スタイルにどの程度依存しているか。

主な発見

• フランス語検出器（CamemBERT、CamemBERTa、RoBERTa、ELECTRA）は Full セットの高いドメイン内精度、再現率、F1を達成する。
• マルチリンガルのXLM-Rは全体的に強力な性能とロバスト性を示し、特にドメイン外シナリオで優れている。
• 敵対的摂動（スペルミス、同形字）は一部のドメイン外検出を劣化させ、単純なテキスト攻撃に対する脆弱性を浮き彫りにする。
• 検出器はネイティブのフランス語ChatGPT出力とBingGPTで非常に良い性能を示すが、敵対的およびドメイン外設定では弱点を示す。
• ドメイン内検出はドメイン外コンテンツへ完全には一般化せず、多様な訓練データの必要性を強調する。
• オープンソースのデータセットとモデルが提供され、再現とさらなる研究を支援する。