[論文レビュー] DeepfakeArt Challenge: A Benchmark Dataset for Generative AI Art Forgery and Data Poisoning Detection

Hossein Aboutalebi, Daniel Mao+4 more|arXiv (Cornell University)|Jun 2, 2023

Generative Adversarial Networks and Image Synthesis被引用数 4

ひとこと要約

本論文は、生成的AIアート偽造およびデータ汚染を検出することを目的とした、32,000組を超える画像ペアを含む大規模なベンチマークデータセット「DeepfakeArt Challenge」を紹介する。本研究では、敵対的攻撃、スタイル移行、Cutmixなど多様な技術を用い、きめ細やかな品質管理を実施することで、生成的AIシステムにおける著作権侵害およびモデル汚染の検出に耐性のあるモデルの開発を支援する。

ABSTRACT

The tremendous recent advances in generative artificial intelligence techniques have led to significant successes and promise in a wide range of different applications ranging from conversational agents and textual content generation to voice and visual synthesis. Amid the rise in generative AI and its increasing widespread adoption, there has been significant growing concern over the use of generative AI for malicious purposes. In the realm of visual content synthesis using generative AI, key areas of significant concern has been image forgery (e.g., generation of images containing or derived from copyright content), and data poisoning (i.e., generation of adversarially contaminated images). Motivated to address these key concerns to encourage responsible generative AI, we introduce the DeepfakeArt Challenge, a large-scale challenge benchmark dataset designed specifically to aid in the building of machine learning algorithms for generative AI art forgery and data poisoning detection. Comprising of over 32,000 records across a variety of generative forgery and data poisoning techniques, each entry consists of a pair of images that are either forgeries / adversarially contaminated or not. Each of the generated images in the DeepfakeArt Challenge benchmark dataset \footnote{The link to the dataset: http://anon\_for\_review.com} has been quality checked in a comprehensive manner.

研究の動機と目的

• 視覚的コンテンツにおける生成的AIの乱用が増加する中、特にアート偽造およびデータ汚染の脅威に対処すること。
• AI生成偽造の検出モデルを評価・改善するための標準化され、高品質なベンチマークを提供すること。
• 著作権侵害コンテンツおよび敵対的に汚染された学習データの検出を可能にすることで、責任あるAI開発を支援すること。
• GenAI4Goodイニシャチブを通じてオープンな研究を促進し、生成的AIの倫理的かつ透明な利用を推進すること。
• 悪意ある利用のリスクを低減するため、回避戦略に対応できるよう定期的にデータセットを更新すること。

提案手法

• 複数の生成的偽造技術を用いて、偽造またはクリーンなラベルが付与された32,000組の画像ペアから成る多様なデータセットを収集した。
• 敵対的攻撃（FGSM、PGD、APGD）を適用し、元の画像に人間が認識できないほどの摂動を加えることで、データ汚染検出のための対象とした。
• WikiArtデータセット内の画像からランダムにパッチを抽出し、それをターゲット画像に重ねるCutmix技術を実装した。
• 特定のアーティストのスタイルを模倣するスタイル移行手法を用い、著作権に基づく偽造をシミュレートした。
• 生成されたすべてのサンプルに対して包括的な手動および自動検証を実施し、データ品質を確保した。
• 敵対的攻撃、スタイル移行、Cutmix、クリーン画像の4つのカテゴリにデータセットを分類し、的確な評価を可能にした。

実験結果

リサーチクエスチョン

• RQ1 現在の機械学習モデルは、著作権侵害を模倣するAI生成アート偽造をどの程度効果的に検出できるか？
• RQ2 敵対的データ汚染技術は、視覚的に認識不能を保ちつつ、どの程度検出を回避できるか？
• RQ3 統一されたベンチマークデータセットは、多様な偽造技術にわたる検出モデルの汎化性能および耐性を向上させることができるか？
• RQ4 FGSM、PGD、Cutmixなどの異なるデータ汚染手法は、モデルの性能および検出精度にどのような影響を与えるか？
• RQ5 オープンで定期的に更新されるベンチマークデータセットは、生成的AIの悪意ある利用を緩和するのに果たす役割は何か？

主な発見

• DeepfakeArt Challengeデータセットは32,000組を超える高品質な画像ペアを含み、敵対的攻撃カテゴリに2,730件、Cutmixカテゴリに2,000件のレコードが含まれている。
• FGSM、PGD、APGDなどの敵対的攻撃は、視覚的忠実度を保ちつつモデルの予測を変更する人間が認識できない摂動を効果的に生成した。
• Cutmix技術は、ソース画像とターゲット画像のパッチを組み合わせることで効果的にハイブリッド画像を生成し、拡散モデルにおけるデータ複製をシミュレートした。
• スタイル移行に基づく偽造は、元のアーティストの作品と高い視覚的類似性を示し、検出システムにとって顕著な課題を呈した。
• 本データセットは、データ汚染およびスタイル模倣を含む多様な偽造タイプの検出モデルの評価を可能にした。
• 本データセットは反復的改善を目的として設計されており、回避戦略への対応と検出の関連性を維持するための定期的な更新が可能である。