[論文レビュー] Analyzing Fairness in Deepfake Detection With Massively Annotated Databases

Ying Xu, Philipp Terhörst+2 more|arXiv (Cornell University)|Aug 11, 2022

Machine Learning and Data Classification被引用数 7

ひとこと要約

本論文は、5つの主要なdeepfakeデータセットに対して47の属性にわたり6500万件を超えるラベルを含む大規模なアノテーションデータセットを構築することで、deepfake検出における公平性とバイアスを分析している。その結果、最先端の検出モデルが性的・非性的属性に対して顕著なバイアスを示しており、実世界での展開における公平性と一般化性能を損なっていることが明らかになった。

ABSTRACT

In recent years, image and video manipulations with Deepfake have become a severe concern for security and society. Many detection models and datasets have been proposed to detect Deepfake data reliably. However, there is an increased concern that these models and training databases might be biased and, thus, cause Deepfake detectors to fail. In this work, we investigate factors causing biased detection in public Deepfake datasets by (a) creating large-scale demographic and non-demographic attribute annotations with 47 different attributes for five popular Deepfake datasets and (b) comprehensively analysing attributes resulting in AI-bias of three state-of-the-art Deepfake detection backbone models on these datasets. The analysis shows how various attributes influence a large variety of distinctive attributes (from over 65M labels) on the detection performance which includes demographic (age, gender, ethnicity) and non-demographic (hair, skin, accessories, etc.) attributes. The results examined datasets show limited diversity and, more importantly, show that the utilised Deepfake detection backbone models are strongly affected by investigated attributes making them not fair across attributes. The Deepfake detection backbone methods trained on such imbalanced/biased datasets result in incorrect detection results leading to generalisability, fairness, and security issues. Our findings and annotated datasets will guide future research to evaluate and mitigate bias in Deepfake detection techniques. The annotated datasets and the corresponding code are publicly available.

研究の動機と目的

• 不均衡なトレーニングデータセットに起因するdeepfake検出モデルの公平性とバイアスを調査すること。
• 特に非性的属性についての包括的な属性アノテーションが不足している既存のdeepfakeデータセットの課題を解決すること。
• 多様な性的・非性的属性にわたる最先端のdeepfake検出バックボーンモデルの性能を評価すること。
• 将来的なバイアス評価および低減を支援するため、公開可能で大規模かつ多様なアノテーションデータベースを提供すること。
• 特定のグループを不正に偽物として特定するバイアスを持つ検出システムがもたらす社会的・セキュリティ上のリスクを浮き彫りにすること。

提案手法

• MAAD-Face原則を用いて、5つの主要なdeepfakeデータセット（Celeb-DF, DFD, FF++, DF-1.0, DFDC）を47の異なる属性にわたってアノテートし、高信頼性のラベリングを実現した。
• 年齢、性別、人種、髪の色・スタイル、肌、顔面幾何学的特徴、装飾品、表情など、47の属性にわたり6530万件を超えるラベルを収集した。
• アノテート済みデータセット上で、3つの最先端のdeepfake検出バックボーンモデル（例：EfficientNet, Vision Transformers）をトレーニングおよび評価した。
• 相対的性能（rel. perf.）指標を用いて各属性ごとの検出性能を測定し、バイアスの傾向を特定した。
• MAAD分類器の信頼性スコアを用いて、ラベリングプロセス中に高品質なアノテーションをフィルタリングした。
• 属性カテゴリー（例：ひげ、マスカラ、大きな鼻）およびサブカテゴリー（例：金髪、笑顔）ごとの検出精度を比較し、バイアスの度合いを定量化した。

実験結果

リサーチクエスチョン

• RQ1 deepfake検出モデルはどの程度、特定の性的・非性的属性に対してバイアスを示しているのか？
• RQ2 公開されているdeepfakeデータセットにおける不均衡さが、検出モデルの公平性と一般化性能にどのように影響しているのか？
• RQ3 どの特定の属性（例：髪の色、顔面幾何学的特徴、装飾品）が検出性能の著しい低下を示しているのか？
• RQ4 相対的性能指標は、異なる属性サブカテゴリー間でどのように変動し、潜在的な公平性の問題を示しているのか？
• RQ5 大規模かつ多様な属性アノテーションは、deepfake検出システムにおけるバイアスの特定および低減に寄与できるか？

主な発見

• 調査対象のdeepfakeデータセットは、性的属性および属性の多様性に欠けており、特定のグループが顕著に不足している。
• deepfake検出モデルは髪の色（例：あるモデルで金髪では100％の相対的性能上昇）、顔面幾何学的特徴（例：卵型顔では45.74％の相対的性能上昇）、装飾品（例：口紅をつけていた場合で-239.21％の相対的性能低下）といった属性に対して強いバイアスを示している。
• 特定の属性では極端な性能低下が見られた：例として、あるモデルで二重あごでは-448.88％の相対的性能低下が確認され、深刻な誤分類が生じていることが示された。
• 偏ったデータでトレーニングされたモデルでは、大きな鼻に対して点鼻よりも最大47.03％の相対的性能が向上しており、特定の顔貌特徴に強いバイアスが存在することが示された。
• 厚い化粧や魅力的さといった属性については、誤差率が不足していたため信頼できる性能データが得られず、データスパarsityやモデルの故障がその要因である可能性が示唆された。
• 本研究では、不均衡なデータセットでトレーニングされた検出モデルが体系的に不公平な結果を生み出すことが明らかになった。特定のグループが不正に偽物として過剰に特定される傾向があり、深刻な公平性とセキュリティ上の懸念が生じている。