[논문 리뷰] Diverse Misinformation: Impacts of Human Biases on Detection of Deepfakes on Networks

Juniper Lovato, Laurent Hébert‐Dufresne외 6명|arXiv (Cornell University)|2022. 10. 18.

Misinformation and Its Impacts인용 수 4

한 줄 요약

이 연구는 관찰 설문 조사(미국 참가자 2,016명)를 통해 인간의 편향과 인구 통계적 일치가 소셜 네트워크에서 딥페이크에 대한 민감도에 미치는 영향을 조사한다. 연구 결과, 사용자가 자신의 인구 통계적 특성과 일치하는 성격을 가진 딥페이크를 더 정확하게 식별하는 것으로 나타났으며, 수학적 모델은 다양한 사회적 네트워크가 집단적 오인정보 민감도를 감소시키는 '군중 교정'을 가능하게 한다고 제안한다.

ABSTRACT

Social media platforms often assume that users can self-correct against misinformation. However, social media users are not equally susceptible to all misinformation as their biases influence what types of misinformation might thrive and who might be at risk. We call "diverse misinformation" the complex relationships between human biases and demographics represented in misinformation. To investigate how users' biases impact their susceptibility and their ability to correct each other, we analyze classification of deepfakes as a type of diverse misinformation. We chose deepfakes as a case study for three reasons: 1) their classification as misinformation is more objective; 2) we can control the demographics of the personas presented; 3) deepfakes are a real-world concern with associated harms that must be better understood. Our paper presents an observational survey (N=2,016) where participants are exposed to videos and asked questions about their attributes, not knowing some might be deepfakes. Our analysis investigates the extent to which different users are duped and which perceived demographics of deepfake personas tend to mislead. We find that accuracy varies by demographics, and participants are generally better at classifying videos that match them. We extrapolate from these results to understand the potential population-level impacts of these biases using a mathematical model of the interplay between diverse misinformation and crowd correction. Our model suggests that diverse contacts might provide "herd correction" where friends can protect each other. Altogether, human biases and the attributes of misinformation matter greatly, but having a diverse social group may help reduce susceptibility to misinformation.

연구 동기 및 목표

• 개인의 인간 편향과 인구 통계적 일치가 소셜 미디어에서 딥페이크에 대한 민감도에 미치는 영향을 조사하는 것.
• 비디오에 등장하는 성격이 참가자의 인구 통계적 신분(예: 인종, 성별, 연령)과 일치할 경우 사용자가 딥페이크를 더 정확하게 탐지하는지 여부를 검토하는 것.
• 다양한 오인정보의 영향을 인구 수준에서 모델링하고, 다양한 사회적 네트워크가 집단적 교정을 가능하게 하는지 평가하는 것.
• 딥페이크 생성의 알고리즘 모델 편향과는 별개로, 인지 및 편향의 역할이 오인정보 탐지에 어떻게 영향을 미치는지 평가하는 것.
• 대규모 설문 조사를 통해 참가자의 인구 통계적 특성과 딥페이크 탐지 정확도 간의 상호작용을 실증적으로 제시하는 것.

제안 방법

• 딥페이크 탐지에 대한 명시적 프라밍 없이 참가자가 영상을 시청하도록 한 관찰 설문 조사(N=2,016)를 Qualtrics 패널을 통해 실시.
• 참가자가 인간 분류자로 기능할 때의 분류 정확도를 측정하기 위해 매튜스 상관계수(MCC)를 사용하였으며, 값은 -1(완전한 불일치)에서 1(완전한 일치) 사이로, 기준값과의 일치도를 반영.
• 편향의 통계적 유의성을 검증하기 위해 10,000개의 부트스트랩 샘플링을 사용하여 인구 통계적 하위군 간 MCC 차이를 비교.
• 연령, 성별, 인종과 같은 인구 통계적 일치와 탐지 정확도 간의 관계를 모델링하기 위해 베이지안 로지스틱 회귀를 적용.
• 다양한 사회적 접촉을 가진 네트워크에서 오인정보 확산 및 교정 과정을 시뮬레이션하기 위해 오인정보 확산 및 교정에 대한 수학적 모델을 개발.
• 설문 조사의 집계된 익명화된 데이터를 분석하였으며, 전체 코드와 데이터는 GitHub에 공개되었으며, 참가자의 개인정보를 보호하였다.

실험 결과

연구 질문

• RQ1 참가자와 딥페이크 성격 간 인구 통계적 일치가 탐지 정확도에 어떤 영향을 미치는가?
• RQ2 어느 인구 통계적 집단이 딥페이크에 가장 또는 가장 덜 속기 쉬운가?
• RQ3 다양한 사회적 네트워크가 동료 영향을 통해 오인정보를 집단적으로 교정하는 데 얼마나 기여할 수 있는가?
• RQ4 알고리즘 모델 편향과는 별개로 인간의 인지 편향이 딥페이크 탐지 결과에 어떻게 영향을 미치는가?
• RQ5 개개인이 신분 특성에 따라 민감도가 다를 경우, 다양한 오인정보의 인구 수준적 영향은 어떠한가?

주요 결과

• 참가자가 자신의 인구 통계적 특성(인종, 성별, 연령)과 일치하는 성격을 가진 딥페이크를 더 정확하게 식별하는 것으로 나타나, 강력한 시청자 편향이 존재함을 시사한다.
• 탐지 정확도에 대한 매튜스 상관계수(MCC)는 인구 통계적 집단에 따라 변동하며, 참가자와 성격이 동일한 인구 통계적 특성을 공유할 경우 더 높은 MCC 값이 관찰되었다.
• 참가자들은 같은 인종, 성별, 연령대의 사람을 묘사한 딥페이크를 더 정확하게 탐지하는 경향을 보였으며, 이는 내집단 인식이 비판적 평가 능력을 향상시킨다는 것을 시사한다.
• 수학적 모델은 다양한 사회적 네트워크가 '군중 교정'을 가능하게 하며, 다양한 배경을 가진 친구들이 함께 모여 오인정보 민감도를 감소시킬 수 있음을 시뮬레이션으로 입증하였다.
• 조금이라도 균형 잡힌 딥페이크 데이터셋(예: 페이스북 딥페이크 탐지 챌린지)이 존재하더라도 인간의 인지 편향은 지속적으로 존재하며 탐지 결과에 중대한 영향을 미친다.
• 영상 품질에 대한 체계적 알고리즘 편향의 증거는 없었으며, 관찰된 정확도의 차이는 영상의 정밀도가 아니라 시청자의 인지 인식에 기인한 것으로 나타났다.