[論文レビュー] Watermark-based Attribution of AI-Generated Content

Zhengyuan Jiang, Moyang Guo+3 more|arXiv (Cornell University)|Apr 5, 2024

Advanced Steganography and Watermarking Techniques被引用数 6

ひとこと要約

本論文は、AI生成コンテンツの検出と帰属のための watermark ベースの検出と帰属を分析し、理論的な性能境界を提供するとともに、帰属精度を向上させる効率的な watermark 選択アルゴリズムを導入し、複数の GenAI モデルで実証的検証を行う。

ABSTRACT

Several companies have deployed watermark-based detection to identify AI-generated content. However, attribution--the ability to trace back to the user of a generative AI (GenAI) service who created a given AI-generated content--remains largely unexplored despite its growing importance. In this work, we aim to bridge this gap by conducting the first systematic study on watermark-based, user-level attribution of AI-generated content. Our key idea is to assign a unique watermark to each user of the GenAI service and embed this watermark into the AI-generated content created by that user. Attribution is then performed by identifying the user whose watermark best matches the one extracted from the given content. This approach, however, faces a key challenge: How should watermarks be selected for users to maximize attribution performance? To address the challenge, we first theoretically derive lower bounds on detection and attribution performance through rigorous probabilistic analysis for any given set of user watermarks. Then, we select watermarks for users to maximize these lower bounds, thereby optimizing detection and attribution performance. Our theoretical and empirical results show that watermark-based attribution inherits both the accuracy and (non-)robustness properties of the underlying watermark. Specifically, attribution remains highly accurate when the watermarked AI-generated content is either not post-processed or subjected to common post-processing such as JPEG compression, as well as black-box adversarial post-processing with limited query budgets.

研究の動機と目的

• AI生成コンテンツを検出にとどまらず帰属まで強化する必要性を動機づけ、法科学的分析と政策実施を支援する。
• watermark ベースの検出と帰属の正式で確率的な枠組みを構築する。
• 帰属精度を最大化するよう、異なるユーザーの watermark を選択するアルゴリズムを提案する。
• watermarking の仮定の下で検出と帰属の性能に関する理論的境界を提供する。
• 異なる GenAI モデルとコンテンツタイプにわたり、検出/帰属性能と watermark 選択手法を実証的に検証する。

提案手法

• 各ユーザー watermark、デコーダ、類似性閾値を用いた watermarking ベースの検出・帰属パイプラインを定義する。
• デコードされた watermark と登録済みユーザー watermark との間の閾値 tau を用いたビット毎の正答率 BA（bitwise accuracy）による検出をモデル化する。
• 帰属を、デコードされた watermark と最も BA が大きい watermark を持つユーザーを選択することとして定義する。
• 既存のユーザー watermark 間の最大ペアwise BA を最小化する形で watermark 選択を定式化し、farther string problem からの還元により NP-hard であることを証明する。
• 意思決定問題を解くための近似解法（BSTA、NRg、A-BSTA）を開発し、ユーザー登録時の実用的な watermark アサインを実装する。
• 符号化/復号化の挙動と非 AI コンテンツのランダム性を捉えるため、beta-正確な watermarking と gamma-ランダム watermarking での性能を分析する。

実験結果

リサーチクエスチョン

• RQ1 watermark ベースの手法を、ユーザー非依存の検出から AI生成コンテンツのユーザー認識帰属へ拡張するにはどうすればよいか。
• RQ2 watermarking の下で検出と帰属の理論的性能境界（TDR、TAR、FDR）はどのようなものか。
• RQ3 新規ユーザーの watermark をどのように選択して帰属効果を最大化するか、アルゴリズム上のトレードオフは何か。
• RQ4 後処理や敵対的試みへの watermark ベース検出・帰属の頑健性はどの程度で、それが性能にどのように影響するか。
• RQ5 提案する watermarking フレームワークは、画像だけでなく AI生成テキストにも適用可能か。

主な発見

• watermark ベースの検出と帰属は、コンテンツが大きく後処理されていない場合に高い精度を達成でき、JPEG、ブラー、輝度/コントラスト変更などの一般的な後処理にも頑健である。
• ユーザー watermark が埋め込まれた水準が異なるほど帰属性能が向上することが多く、 watermark 同士の最大類似度（BA）を最小化する formal objective が提示されている。
• watermark 選択問題は NP-hard であり、効率的な近似アルゴリズム（BSTA、NRg、A-BSTA）で対処されている。
• Stable Diffusion、Midjourney、DALL-E 2 での実証評価は検出と帰属の高精度を示し、 watermark 選択アルゴリズムはベースラインを上回る。
• 本手法は画像のみならず AI生成テキストにも適用可能であり、 watermark ベースの帰属の適用範囲が広いことを示している。