[논문 리뷰] Behind the Deepfake: 8% Create; 90% Concerned. Surveying public exposure to and perceptions of deepfakes in the UK

Tvesha Sippy, Florence E. Enock외 2명|arXiv (Cornell University)|2024. 07. 08.

Public Spaces through Art인용 수 4

한 줄 요약

이 연구는 영국 전역의 대규모 표본 조사에서 1,403명의 성인을 대상으로 한 결과를 제시한다. 비록 8%만이 딥페이크를 제작했고 15%만이 해로운 딥페이크에 노출된 것으로 보고했지만, 90.4%는 딥페이크 위험에 매우 우려하고 있다. 노출 빈도가 낮음에도 불구하고 공적 불안이 높으며, 특히 여성들 사이에서 두드러진다. 이는 위장 콘텐츠를 방지하고 디지털 미디어에 대한 신뢰를 회복하기 위해 미디어 리터러시와 정책 대응이 절실한 필요성을 드러낸다.

ABSTRACT

This article examines public exposure to and perceptions of deepfakes based on insights from a nationally representative survey of 1403 UK adults. The survey is one of the first of its kind since recent improvements in deepfake technology and widespread adoption of political deepfakes. The findings reveal three key insights. First, on average, 15% of people report exposure to harmful deepfakes, including deepfake pornography, deepfake frauds/scams and other potentially harmful deepfakes such as those that spread health/religious misinformation/propaganda. In terms of common targets, exposure to deepfakes featuring celebrities was 50.2%, whereas those featuring politicians was 34.1%. And 5.7% of respondents recall exposure to a selection of high profile political deepfakes in the UK. Second, while exposure to harmful deepfakes was relatively low, awareness of and fears about deepfakes were high (and women were significantly more likely to report experiencing such fears than men). As with fears, general concerns about the spread of deepfakes were also high; 90.4% of the respondents were either very concerned or somewhat concerned about this issue. Most respondents (at least 91.8%) were concerned that deepfakes could add to online child sexual abuse material, increase distrust in information and manipulate public opinion. Third, while awareness about deepfakes was high, usage of deepfake tools was relatively low (8%). Most respondents were not confident about their detection abilities and were trustful of audiovisual content online. Our work highlights how the problem of deepfakes has become embedded in public consciousness in just a few years; it also highlights the need for media literacy programmes and other policy interventions to address the spread of harmful deepfakes.

연구 동기 및 목표

• 최근 기술 발전과 주요 정치적 딥페이크 사례 이후 영국에서의 딥페이크 노출 및 인식 수준을 측정하기 위해.
• 다양한 인구 통계적 집단 간 딥페이크에 대한 공포심, 음성영상 콘텐츠에 대한 신뢰도, 딥페이크 탐지 능력에 대한 자신감을 평가하기 위해.
• 유해한 딥페이크를 억제하기 위한 정책 및 플랫폼 수준의 조치에 대한 공적 지지를 평가하기 위해.
• 높은 수준의 딥페이크 위험 인식과는 달리, 자가 보고한 탐지 능력에 대한 낮은 자신감 사이의 격차를 분석하기 위해. 이는 온라인 미디어에 대한 광범위한 신뢰와도 양립된다.

제안 방법

• 1,403명의 영국 성인을 대상으로 한 전국 대응 온라인 설문조사를 실시하여, 딥페이크에 대한 노출, 인식, 태도를 측정하기 위한 표준화된 질문지를 사용하였다.
• 비합의적 성관계 영상, 사기/사기 광고, 오락실 정보(예: 건강 또는 종교 선전) 등 세 가지 유형의 해로운 딥페이크에 대한 노출 데이터를 수집하였다.
• 공포심과 신뢰도를 측정하기 위해 리커트 척도를 사용한 응답을 활용하였으며, 이는 사실 확인 기관, 전문가, AI 탐지 도구에 대한 신뢰도 포함.
• 연령, 성별, 정치적 관심도 등 인구 통계적 요인 간 노출 및 공포심의 차이를 분석하였다.
• 플랫폼 책임, 법률 제정, 교육 등 정책 선택지를 포함한 다중 선택형 질문을 통해 공적 정책 선호도를 평가하였다.
• 기술통계 및 추론 통계를 사용하여 설문 데이터를 분석하였으며, 유의성 검정을 위해 교차표 및 카이제곱 검정을 활용하였다.

실험 결과

연구 질문

• RQ1 영국 성인 중 얼마나 많은 비율이 해로운 딥페이크에 노출되었으며, 어떤 인구 통계적 집단이 가장 위험에 노출되어 있는가?
• RQ2 남녀, 연령대, 딥페이크 유형(예: 정치적, 성인물, 사기)에 따라 딥페이크에 대한 공포심은 어떻게 다를까?
• RQ3 딥페이크에 대한 광범위한 우려에도 불구하고, 사람들이 온라인 음성영상 콘텐츠에 얼마나 신뢰를 보내는가?
• RQ4 해로운 딥페이크의 위험을 완화하기 위해 공적 및 플랫폼 수준의 조치에 대해 어떤 정책적 조치를 지지하는가?
• RQ5 개인들은 딥페이크를 탐지할 능력에 얼마나 자신감을 갖고 있으며, 검증을 위해 어떤 출처를 신뢰하는가?

주요 결과

• 15%의 영국 성인이 최소한 한 가지 유형의 해로운 딥페이크에 노출된 것으로 보고했으며, 고위 정치적 딥페이크에 노출된 것으로 기억하는 이들은 5.7%였다.
• 유명인을 소재로 한 딥페이크에 대한 노출 비율이 가장 높았고(50.2%), 정당 정치인을 대상으로 한 것은 34.1%였으며, 남성과 젊은 연령대일수록 더 자주 노출된 것으로 보고했다.
• 응답자의 90.4%가 딥페이크에 대해 매우 또는 어느 정도 높은 우려를 표명했으며, 91.8%는 딥페이크가 온라인 아동 성폭행 자료 확산과 정보 신뢰성 붕괴에 기여할 수 있다고 우려했다.
• 높은 우려에도 불구하고, 응답자 66%는 딥페이크를 탐지할 수 있을지 확신이 없었으며, 70%는 여전히 온라인 음성영상 콘텐츠를 신뢰하고 있어, 공적 인식에 모순이 존재함을 시사한다.
• 여성은 남성보다 딥페이크 사기(60.7%), 불쾌한 오인 표현(50.1%), 비합의적 성관계 영상(26.1%)에 대해 더 높은 공포심을 보였다.
• 공적 신뢰도는 사실 확인 기관(54.4%)과 과학 전문가(46.3%)가 가장 높았으며, 이어 AI 도구(36.9%)가 뒤이었다. 플랫폼 수준의 신고 시스템과 더 엄격한 법률 제정을 정책적 해결책으로 지지하는 것으로 나타났다.