[論文レビュー] Testing Human Ability To Detect Deepfake Images of Human Faces

Sergi D. Bray, Shane D. Johnson+1 more|arXiv (Cornell University)|Dec 7, 2022

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

本研究では、FFHQデータセットから抽出した50枚の本物画像と50枚のStyleGAN2で生成された深フェイク画像のうち、ランダムに選択された20枚の画像を評価するオンライン調査を通じて、280名の参加者を4つのグループ（対照群および3つの介入群）に分け、人間がStyleGAN2で生成された人間の顔の深フェイク画像を検出できる能力を評価した。参加者は高い自己感受性を示したが、正答率はわずか62％にとどまり、これはたんに運の良さよりもわずかに上回る水準であり、介入処置によって検出能力が有意に向上することもなかった。これは、合成メディアに対する人間の認知に深刻な脆弱性が存在することを示している。

ABSTRACT

Deepfakes are computationally-created entities that falsely represent reality. They can take image, video, and audio modalities, and pose a threat to many areas of systems and societies, comprising a topic of interest to various aspects of cybersecurity and cybersafety. In 2020 a workshop consulting AI experts from academia, policing, government, the private sector, and state security agencies ranked deepfakes as the most serious AI threat. These experts noted that since fake material can propagate through many uncontrolled routes, changes in citizen behaviour may be the only effective defence. This study aims to assess human ability to identify image deepfakes of human faces (StyleGAN2:FFHQ) from nondeepfake images (FFHQ), and to assess the effectiveness of simple interventions intended to improve detection accuracy. Using an online survey, 280 participants were randomly allocated to one of four groups: a control group, and 3 assistance interventions. Each participant was shown a sequence of 20 images randomly selected from a pool of 50 deepfake and 50 real images of human faces. Participants were asked if each image was AI-generated or not, to report their confidence, and to describe the reasoning behind each response. Overall detection accuracy was only just above chance and none of the interventions significantly improved this. Participants' confidence in their answers was high and unrelated to accuracy. Assessing the results on a per-image basis reveals participants consistently found certain images harder to label correctly, but reported similarly high confidence regardless of the image. Thus, although participant accuracy was 62% overall, this accuracy across images ranged quite evenly between 85% and 30%, with an accuracy of below 50% for one in every five images. We interpret the findings as suggesting that there is a need for an urgent call to action to address this threat.

研究の動機と目的

• StyleGAN2で生成された人間の顔の深フェイク画像を人間が検出できる能力を評価すること。
• 簡単な介入が人間の検出精度を向上させる効果があるかどうかを評価すること。
• 自己感受性のレベルと実際の検出精度との関係を調べること。
• 深フェイクが特に検出困難となる画像の特徴を特定すること。

提案手法

• 参加者はオンライン調査を通じて募集され、4つのグループ（対照群および3つの介入群）のいずれかに無作為に割り当てられた。
• 各参加者は、バランスの取れた50枚の本物画像と50枚の深フェイク画像からなるFFHQデータセットからランダムに選択された20枚の画像を提示された。
• 参加者は各画像を「AI生成」または「本物」と分類し、それぞれの判断について自己感受性と根拠を記入した。
• 正答率は参加者ごとおよび画像ごとに計算され、自己感受性と正答率の相関関係が分析された。
• 統計的分析により、グループ間での検出性能の差を比較し、介入処置の有効性を評価した。
• 画像ごとの分析により、頻繁に誤分類された画像が特定され、人間が特定の深フェイク画像をなぜ困難に感じるかのパターンが明らかになった。

実験結果

リサーチクエスチョン

• RQ1 StyleGAN2で生成された人間の顔の深フェイク画像に対する人間のベースライン検出正答率はどの程度か？
• RQ2 簡単な介入処置が、人間による深フェイク画像の検出能力を有意に向上させるか？
• RQ3 深フェイクを特定する際の自己感受性は、実際の正答率とどの程度相関するか？
• RQ4 どの特定の深フェイク画像が人間によって最も頻繁に誤分類されるか？また、それらが騙しやすい特徴は何か？

主な発見

• 全体の正答率は62％にとどまり、これはたんに運の良さよりもわずかに上回る水準であり、人間が深フェイク画像を信頼できる方法で検出できる能力に欠けていることを示している。
• 対照群と比較して、3つの介入群のいずれに対しても、正答率の有意な向上は認められなかった。
• 参加者は判断に対して高い自己感受性を示したが、その感受性と実際の正答率との間に有意な相関は認められなかった。
• 画像ごとの正答率は広範囲にわたり、30％から85％の間で変動しており、20％の画像では正答率が50％未満にとどまった。
• 特定の深フェイク画像は参加者全般にわたり一貫して誤分類されており、人間の認知を回避する特定の視覚的アーティファクトやパターンがあることが示唆された。
• これらの結果は、人間の認知にシステム的な脆弱性が存在することを示しており、深フェイクの脅威に対処するための技術的および教育的対策の緊急の導入が不可欠であることを強調している。