[論文レビュー] Security and Privacy on Generative Data in AIGC: A Survey

Tao Wang, Yushu Zhang+4 more|arXiv (Cornell University)|Sep 18, 2023

Privacy-Preserving Technologies in Data被引用数 7

ひとこと要約

このサーベイは、情報セキュリティ特性—プライバシー、可制御性、真偽性、コンプライアンス—からAIGCの生成データのセキュリティとプライバシーを分析し、最新の対策をレビューします。

ABSTRACT

The advent of artificial intelligence-generated content (AIGC) represents a pivotal moment in the evolution of information technology. With AIGC, it can be effortless to generate high-quality data that is challenging for the public to distinguish. Nevertheless, the proliferation of generative data across cyberspace brings security and privacy issues, including privacy leakages of individuals and media forgery for fraudulent purposes. Consequently, both academia and industry begin to emphasize the trustworthiness of generative data, successively providing a series of countermeasures for security and privacy. In this survey, we systematically review the security and privacy on generative data in AIGC, particularly for the first time analyzing them from the perspective of information security properties. Specifically, we reveal the successful experiences of state-of-the-art countermeasures in terms of the foundational properties of privacy, controllability, authenticity, and compliance, respectively. Finally, we show some representative benchmarks, present a statistical analysis, and summarize the potential exploration directions from each of theses properties.

研究の動機と目的

• 生成データが実データのプライバシーへ与える影響を評価し、AIGCにおけるプライバシーの脅威を特定する。
• 生成データの悪用防止と著作権問題防止のための可制御性メカニズムを検討する。
• 生成データの真偽性と検出/帰属手法を評価し、検証する。
• 規制/コンプライアンス要件を分析し、信頼できる生成データのガイダンスを提案する。

提案手法

• 情報セキュリティ特性（プライバシー、可制御性、真偽性、コンプライアンス）に基づき生成データのセキュリティ/プライバシー要件を分類する。
• 各特性についての最先端対策をレビュー・統合する（例： memorization protection、differential privacy、watermarking、access control、traceability）。
• 既存のサーベイを比較し、AIGC全体ではなく生成データに焦点を当てることでギャップを浮き彫りにする。
• 信頼できる生成データのための未解決課題と将来の方向性を要約する。

実験結果

リサーチクエスチョン

• RQ1 生成モデルを訓練するために使用される実データのプライバシーリスクと保護策は何か（AIGCのプライバシー対AIGCのプライバシー？）
• RQ2 悪用防止のための可制御性（アクセス制御と追跡性）をどのように実現するか？
• RQ3 生成データの真偽性を保証するための検出・帰属手法は何があり、それらの有効性はどの程度か？
• RQ4 生成データに適用される規制・コンプライアンス要件（非毒性・事実性を含む）は何か？
• RQ5 AIGCにおける生成データの保護と安全確保のための未解決課題と将来の方向性は何か？

主な発見

• 大規模モデルによる訓練データの memorization や出力への訓練データの再現がプライバシー脅威となる。
• Differential privacy、重複排除、memorization-rejection 技術はプライバシーリスクを緩和するが、実用性に影響を及ぼす可能性がある。
• プライバシーのためのAIGCは仮想コンテンツを用いて実データのプライバシーを保護するもので、拡散モデルは強力な生成能力を提供してプライバシー保護に寄与する。
• 可制御性戦略には摂動によるアクセス制御と、モデル特異的およびデータ特異的な watermarking による堅牢な追跡性が含まれる。
• Watermarking は著作権保護、真偽性チェック、生成パイプライン全体でのコンテンツ追跡を可能にする。
• コンプライアンス上の懸念として、生成データの非毒性と事実性が強調される。