[論文レビュー] Comparing Human and Machine Deepfake Detection with Affective and Holistic Processing.

Matthew Groh, Ziv Epstein+2 more|arXiv (Cornell University)|May 13, 2021

Generative Adversarial Networks and Image Synthesis参考文献 72被引用数 4

ひとこと要約

本研究は、15,016名の参加者を対象に3回のオンライン実験を実施し、人間とAIベースのディープフェイク検出を比較した。人間と最先端のモデルは、正確性において類似した性能を示すが、誤りのパターンは異なる。モデルの予測が正しい場合、人間の判断と組み合わせることで検出性能が向上するが、モデルの誤りは人間の性能を損なう。感情状態と全体的な顔の処理が人間の検出に顕著に影響を与え、ディープフェイクに対する心理的・知覚的要因が重要な防御要因であることが示唆される。

ABSTRACT

The recent emergence of deepfake videos leads to an important societal question: how can we know if a video that we watch is real or fake? In three online studies with 15,016 participants, we present authentic videos and deepfakes and ask participants to identify which is which. We compare the performance of ordinary participants against the leading computer vision deepfake detection model and find them similarly accurate while making different kinds of mistakes. Together, participants with access to the model's prediction are more accurate than either alone, but inaccurate model predictions often decrease participants' accuracy. We embed randomized experiments and find: incidental anger decreases participants' performance and obstructing holistic visual processing of faces also hinders participants' performance while mostly not affecting the model's. These results suggest that considering emotional influences and harnessing specialized, holistic visual processing of ordinary people could be promising defenses against machine-manipulated media.

研究の動機と目的

• 一般の人々が、最先端のコンピュータビジョンモデルと比較して、ディープフェイク動画を検出する能力にどの程度差があるかを調査すること。
• 一時的な感情状態と全体的視覚処理が、人間のディープフェイク検出性能に与える影響を検討すること。
• 人間の判断とAIモデルの予測を組み合わせることで、全体的な検出正確性が向上するかどうかを評価すること。
• 機械的改ざんメディアに対して防御的となる心理的および知覚的要因を同定すること。

提案手法

• 15,016名の参加者を対象に3回のオンライン研究を実施し、本物の動画とディープフェイク動画を提示し、どちらが本物かを特定するよう依頼した。
• 最先端のコンピュータビジョンによるディープフェイク検出モデルの予測と、人間の検出正確性を比較した。
• 一時的な怒りを誘発する処理と、顔の全体的視覚処理を遮断する処理をランダムに組み込み、実験を操作した。
• 感情的および知覚的干渉状態下でのパフォーマンスの変化を測定した。
• 人間の意思決定とモデルの予測との相互作用効果を分析し、特にモデルの予測が誤りである場合の影響を重点的に検討した。
• 統計的モデリングを用いて、感情状態と視覚処理制限が検出正確性に与える影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 一般の人々は、最先端のディープフェイク検出モデルと比較して、操作された動画を識別する際、どの程度の正確性を示すか？
• RQ2 一時的な怒りは、人間のディープフェイク検出性能に与える影響は、モデルの性能に比べてどの程度か？
• RQ3 顔の全体的視覚処理を遮断することは、人間のディープフェイク検出正確性にどのような影響を与えるか？また、この影響はモデルに対しても同様に現れるか？
• RQ4 人間の判断とAIモデルの予測を組み合わせることで、全体的な検出正確性が向上するか？また、どのような条件下でその効果が現れるか？
• RQ5 感情的および知覚的要因は、人間がディープフェイクの欺瞞にどの程度影響を受けるかをどのように緩和するか？

主な発見

• 人間と最先端のコンピュータビジョンによるディープフェイク検出モデルは、ディープフェイクの識別において、同程度の高い正確性を達成した。
• 一時的な怒りは人間の検出性能を顕著に低下させたが、モデルの正確性にはほとんど影響を与えなかった。
• 顔の全体的視覚処理を遮断することは人間の検出性能を損なったが、モデルの性能には顕著な影響を与えなかった。
• モデルの予測が正しい場合、その出力を人間の判断と組み合わせることで、単体での性能を上回る全体的な検出正確性が得られた。
• モデルの誤った予測はしばしば人間の検出正確性を低下させた。これは、AIへの過剰な依存が有害である可能性を示唆している。
• 結果から、感情状態と全体的視覚処理が、人間のディープフェイク検出において、重要なが軽視されがちな要因であることが示唆された。