[論文レビュー] Behind the Deepfake: 8% Create; 90% Concerned. Surveying public exposure to and perceptions of deepfakes in the UK

Tvesha Sippy, Florence E. Enock+2 more|arXiv (Cornell University)|Jul 8, 2024

Public Spaces through Art被引用数 4

ひとこと要約

本研究は、英国の全国的代表的調査から得られた結果を提示しており、1,403人の成人を対象としている。深素材作成経験者は8%にとどまり、有害な深素材への暴露経験者も15%にとどまるが、90.4%が深素材のリスクに対して強い懸念を抱いている。暴露率は低いにもかかわらず、公的な懸念は非常に高く、とりわけ女性において顕著である。これは、誤解を招くコンテンツとデジタルメディアへの信頼回復のため、メディアリテラシーと政策的対策の実施が急務であることを示している。

ABSTRACT

This article examines public exposure to and perceptions of deepfakes based on insights from a nationally representative survey of 1403 UK adults. The survey is one of the first of its kind since recent improvements in deepfake technology and widespread adoption of political deepfakes. The findings reveal three key insights. First, on average, 15% of people report exposure to harmful deepfakes, including deepfake pornography, deepfake frauds/scams and other potentially harmful deepfakes such as those that spread health/religious misinformation/propaganda. In terms of common targets, exposure to deepfakes featuring celebrities was 50.2%, whereas those featuring politicians was 34.1%. And 5.7% of respondents recall exposure to a selection of high profile political deepfakes in the UK. Second, while exposure to harmful deepfakes was relatively low, awareness of and fears about deepfakes were high (and women were significantly more likely to report experiencing such fears than men). As with fears, general concerns about the spread of deepfakes were also high; 90.4% of the respondents were either very concerned or somewhat concerned about this issue. Most respondents (at least 91.8%) were concerned that deepfakes could add to online child sexual abuse material, increase distrust in information and manipulate public opinion. Third, while awareness about deepfakes was high, usage of deepfake tools was relatively low (8%). Most respondents were not confident about their detection abilities and were trustful of audiovisual content online. Our work highlights how the problem of deepfakes has become embedded in public consciousness in just a few years; it also highlights the need for media literacy programmes and other policy interventions to address the spread of harmful deepfakes.

研究の動機と目的

• 近年の技術的進展および高名な政治的深素材の影響を受けて、英国における深素材への公的暴露および認識を測定すること。
• 年齢、性別、政治的関心などのデモグラフィック要因に応じた、深素材に関する公的懸念、音声・映像コンテンツへの信頼、および深素材の検出能力への自信を評価すること。
• 有害な深素材に対処するための政策的およびプラットフォームレベルの対策への公的支援を評価すること。
• 広範なオンラインメディア信頼にもかかわらず、深素材リスクへの高い認識と、自らの検出能力に対する低い自己認識のギャップを検討すること。

提案手法

• 深素材への暴露、認識、態度に関する構造化されたアンケートを用いて、英国の成人1,403名を対象に、全国的代表的なオンライン調査を実施した。
• 非挙動的ポルノグラフィー、詐欺・スキャム、誤情報（例：健康や宗教的扇動）の3種類の有害な深素材への暴露状況を収集した。
• リッカート尺度による回答を用いて、懸念と信頼（事実確認機関、専門家、AI検出ツールへの信頼を含む）を測定した。
• 年齢、性別、政治的関心などのデモグラフィック要因による暴露および懸念の差を分析した。
• プラットフォームの責任、立法措置、教育の選択肢を含む複数選択式の選択肢を通じて、政策的好みを評価した。
• 記述統計および推論統計を用いて調査データを分析し、クロス集計およびカイ二乗検定を用いて有意性を評価した。

実験結果

リサーチクエスチョン

• RQ1 英国の成人の何パーセントが有害な深素材に暴露されており、どのデモグラフィックグループが最もリスクを負っているか？
• RQ2 性別、年齢、および深素材の種別（例：政治的、ポルノグラフィー的、詐欺的）に応じて、深素材に関する公的懸念はどのように変化するか？
• RQ3 広範な懸念があるにもかかわらず、オンラインの音声・映像コンテンツに対する信頼はどの程度高いのか？
• RQ4 有害な深素材のリスクを軽減するために、公的およびプラットフォームレベルの対策にどのような支持が寄せられているか？
• RQ5 個人は深素材の検出能力にどの程度自信を持っているのか。また、検証のためにどの情報源を信頼しているのか？

主な発見

• 英国の成人の15%が、少なくとも1種類の有害な深素材に暴露されたと報告しており、そのうち5.7%が高名な政治的深素材への暴露を思い出していた。
• 有名人を題材にした深素材への暴露率は50.2%で最も高く、政治家を題材にしたものは34.1%であり、男性および若年層がより多く暴露を報告していた。
• 回答者の90.4%が深素材に対して「非常に」または「ある程度」高い懸念を示しており、91.8%がオンラインでの児童性虐待画像の拡散および情報への信頼の損なわれることへの懸念を抱いていた。
• 高い懸念にもかかわらず、66%の回答者が深素材を検出できるかどうかに不安を抱いており、70%は依然としてオンラインの音声・映像コンテンツを信頼していた。これは、公的認識における矛盾を示している。
• 女性は男性に比べ、深素材による詐欺的行為（60.7%）、不快な誤解釈（50.1%）、非挙動的ポルノグラフィー（26.1%）に対する懸念をより多く報告していた。
• 公的は、事実確認機関（54.4%）と科学的専門家（46.3%）を深素材検出の信頼できる情報源として最も信頼しており、次いでAIツール（36.9%）を信頼していた。また、プラットフォームのレポートメカニズムや、より厳格な立法措置を、主な政策的解決策として支持していた。