[論文レビュー] Origin Tracing and Detecting of LLMs

Linyang Li, Pengyu Wang+3 more|arXiv (Cornell University)|Apr 27, 2023

Topic Modeling被引用数 6

ひとこと要約

この論文は、大規模言語モデル（LLM）の出典追跡を導入し、Sniffer——モデル固有の特徴に基づく手法——を提案する。この手法は、LLM間で対照的な特徴を用いてテキストの出典を検出でき、ホワイトボックスおよびブラックボックス設定の両方で動作し、多様なLLM（Alpacaのような微調整済みモデルを含む）の追跡において高い正確性を達成する。また、今後の研究を支援するためのベンチマークツールキットを提供する。

ABSTRACT

The extraordinary performance of large language models (LLMs) heightens the importance of detecting whether the context is generated by an AI system. More importantly, while more and more companies and institutions release their LLMs, the origin can be hard to trace. Since LLMs are heading towards the time of AGI, similar to the origin tracing in anthropology, it is of great importance to trace the origin of LLMs. In this paper, we first raise the concern of the origin tracing of LLMs and propose an effective method to trace and detect AI-generated contexts. We introduce a novel algorithm that leverages the contrastive features between LLMs and extracts model-wise features to trace the text origins. Our proposed method works under both white-box and black-box settings therefore can be widely generalized to detect various LLMs.(e.g. can be generalized to detect GPT-3 models without the GPT-3 models). Also, our proposed method requires only limited data compared with the supervised learning methods and can be extended to trace new-coming model origins. We construct extensive experiments to examine whether we can trace the origins of given texts. We provide valuable observations based on the experimental results, such as the difficulty level of AI origin tracing, and the AI origin similarities, and call for ethical concerns of LLM providers. We are releasing all codes and data as a toolkit and benchmark for future AI origin tracing and detecting studies. \footnote{We are releasing all available resource at \url{https://github.com/OpenLMLab/}.}

研究の動機と目的

• LLMが広く普及し、ますます高度化する中で、AI生成テキストの出典を特定するという重要なニーズに対応すること。
• AI生成を二値分類タスクとして扱う既存の検出手法が、出典の解像度を欠いているという限界を特定すること。
• 多様なLLM（ブラックボックスおよび微調整済みモデルを含む）に一般化可能で、データ効率の良い出典追跡手法を開発すること。
• 再現可能な研究を支援するためのベンチマークとオープンソースツールキットを整備すること。

提案手法

• LLM出力からモデル固有の対照的特徴を抽出することで、テキストの出典を区別する検出フレームワーク「Sniffer」を提案する。
• ヒューリスティックに基づく特徴工学を用いて、異なるLLM（例：GPT-2、GPT-J、LLaMA）間で生じる内在的なモデル固有の差異を捉える。
• 軽量な線形分類器を適用して抽出された特徴を特定のモデル出典にマッピングし、ホワイトボックスおよびブラックボックス両方の検出を可能にする。
• ベースモデルだけでなく、インstructファインチューニングされたバージョン（例：Alpaca、Dolly）も含めた多段階の出典分類システムを設計する。
• 出典追跡性能の評価を目的として、複数のLLMおよびインストラクションタイプからのテキストを含む多様なベンチマークデータセット「SnifferBench」を構築する。
• 意味的特徴とモデル固有の特徴を統合したハイブリッド検出（Sniffer+RoBERTa）を採用し、モデルの強さやインストラクションのバリエーションにわたる耐性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 モデル固有の特徴は、ソースモデルが完全にアクセス可能でない状況下でも、多様なLLM間でAI生成テキストの出典を効果的に区別できるか？
• RQ2 ソースLLMの強さ（例：GPT-2 対 GPT-3.5）が、出典追跡の難易度にどのように影響するか？
• RQ3 GPT-3.5などの強力なLLMの出力を学習データに用いて訓練された、微調整済みまたは蒸留されたモデル（例：Alpaca、Dolly）を、どの程度正確に出典追跡できるか？
• RQ4 異なるインストラクションプロンプトが、モデル間でのAI生成テキストの検出可能性にどのように影響するか？
• RQ5 意味的特徴とモデル固有の特徴を統合したハイブリッドアプローチは、単独で用いる場合と比較して、出典追跡性能を向上させられるか？

主な発見

• Snifferは、ホワイトボックスおよびブラックボックス設定の両方で、オープンソースLLM（例：GPT-2、GPT-J、LLaMA）の出典追跡において高い正確性を達成する。
• GPT-3.5のような強力なLLMが生成したテキストは、GPT-2のような弱いモデルの出力よりも追跡が難しく、モデルの能力が高くなるほど検出難度が上昇することを示している。
• アライメントプロセス（例：インストラクションチューニング）が生成テキストの特徴に与える影響は、ベースモデルよりも強く、Alpaca や Dolly が ChatGPT 由来と分類されたことからも明らかである。
• Snifferは、GPT-J と GPT-Neo の出典を高い f1スコアで分離でき、類縁モデル間の区別能力を示している。
• RoBERTaに基づく教師あり手法は、GPT-2が生成したテキストを追跡できないことが判明し、意味的特徴のみに依存する手法の限界と、モデル固有特徴の優位性を示している。
• ハイブリッド手法 Sniffer+RoBERTa は、個別に用いた手法を上回る性能を示しており、意味的特徴とモデル固有特徴を統合することで検出の耐性が向上することを実証した。