[論文レビュー] Source Attribution for Large Language Model-Generated Data

Jingtan Wang, Xinyang Lu+5 more|arXiv (Cornell University)|Oct 1, 2023

Topic Modeling被引用数 7

ひとこと要約

本稿では、大規模言語モデル（LLM）が生成するテキストに一意で目に見えない水増しを埋め込むことで、正確な出典特定とデータのルーティングを可能にする水増しフレームワークWASAを提案する。異なるデータ提供者の特徴を特定の水増しにマッピングするようにLLMを訓練することにより、WASAはテキスト生成の品質と耐性を保ちながら、最高で76.12%の高い出典特定精度を達成し、攻撃に対しても耐性を示す。

ABSTRACT

The impressive performances of Large Language Models (LLMs) and their immense potential for commercialization have given rise to serious concerns over the Intellectual Property (IP) of their training data. In particular, the synthetic texts generated by LLMs may infringe the IP of the data being used to train the LLMs. To this end, it is imperative to be able to perform source attribution by identifying the data provider who contributed to the generation of a synthetic text by an LLM. In this paper, we show that this problem can be tackled by watermarking, i.e., by enabling an LLM to generate synthetic texts with embedded watermarks that contain information about their source(s). We identify the key properties of such watermarking frameworks (e.g., source attribution accuracy, robustness against adversaries), and propose a source attribution framework that satisfies these key properties due to our algorithmic designs. Our framework enables an LLM to learn an accurate mapping from the generated texts to data providers, which sets the foundation for effective source attribution. Extensive empirical evaluations show that our framework achieves effective source attribution.

研究の動機と目的

• LLMが生成するコンテンツにおける知的財産権（IP）侵害の懸念が高まる中、特に同意なしに訓練データが使用される問題に対処すること。
• 生成された合成テキストの出典を特定する、つまりどのデータ提供者がそのテキスト生成に貢献したかを特定することを可能にするために、LLMの出力に一意の水増しを埋め込むこと。
• データのルーティングを支援し、データ提供者がそのデータがLLMの訓練に使用されたかどうかを検証できるようにすること。
• LLMの性能を維持し、多数のデータ提供者にスケーラブルであり、水増しの削除攻撃に対しても耐性を持つ水増しフレームワークを設計すること。
• さまざまなLLMアーキテクチャーや訓練手法に対応できる柔軟なシステムを開発すること。

提案手法

• WASAフレームワークは、異なるデータ提供者の入力テキストを、目に見えないUnicode文字（例：U+200B、U+200C）から構成される一意の水増しにマッピングするようにLLMを訓練する。
• 水増しの埋め込みは、各データ提供者のコンテンツが別個の水増しシーケンスに関連付けられた、キュレートされたデータセットにおける第二段階の事前学習フェーズによって実現される。
• モデルの内部表現学習を活用することで、言い換え、切り出し、トークンレベルの摂動といった一般的な攻撃に対して耐性を持つ水増しを設計する。
• 出典特定は、水増しパターンを認識し、それに対応するデータ提供者にマッピングするように訓練された分類器ヘッドを用いて、生成されたテキストから水増しを復号することで実施される。
• 水増し長さ（5〜15文字）と文字セット（各位置で利用可能な文字数が2〜6）を変更可能としており、スケーラビリティとセキュリティの両面で柔軟性を提供する。
• 実験的評価では、ArXivデータセットで微調整されたGPT-2を用い、データサイズ、訓練エポック数、水増し長さ、文字セットの多様性に関するアブレーションスタディを実施している。

Figure 1: Illustration of WASA ’s problem setting. Watermarks are embedded into the texts from data providers for training the LLM. The LLM produced by our WASA framework can generate synthetic texts with embedded watermarks that allow for effective source attribution and data provenance.

実験結果

リサーチクエスチョン

• RQ1 水増しフレームワークは、貢献したデータ提供者に正確に出典を特定できるか？
• RQ2 言い換えやトークン操作といった攻撃に対して、水増し方式はどれほど耐性があるか？
• RQ3 水増しの導入が、LLMのテキスト生成品質（例：パープレキシティ）にどの程度影響を与えるか？
• RQ4 データ提供者の数、水増し長さ、文字セットサイズが、出典特定精度に与える影響はどの程度か？
• RQ5 水増し済みのLLMは、他のLLMアーキテクチャに一般化可能であり、データのルーティング検証において効果を発揮できるか？

主な発見

• WASAは5文字の水増しを用いて76.12%の出典特定精度を達成し、トップ3精度は95.48%に達し、データ提供者の特定において高い正確性を示している。
• 訓練エポック数を1から2に増加させることで、出典特定精度は74.84%から76.96%に向上し、より長い訓練による性能向上が確認された。
• より多くの訓練データ（例：各ArXivカテゴリの33%）を用いることで、出典特定精度とパープレキシティの両方が向上し、スケーラビリティの利点が示された。
• 水増し長さの延長は精度にほとんど影響を与えず、5、10、15文字の水増しは同等の結果を示し、5文字の水増しがわずかに優れている。
• 水増し位置ごとの利用可能なUnicode文字数を6から2に減らすと、トップ3精度がわずかに低下（89.92%に）し、文字セットが大きいほど識別能が向上することが示唆された。
• 水増し後でも低パープレキシティ（例：ArXivで11.3171）を維持しており、テキスト生成品質への劣化が最小限に抑えられている。

Figure 2: Sentences embedded (top left) and not embedded (top right) with our imperceptible watermark visualized in the bottom sentence.