[论文解读] Diverse Misinformation: Impacts of Human Biases on Detection of Deepfakes on Networks

Juniper Lovato, Laurent Hébert‐Dufresne+6 more|arXiv (Cornell University)|Oct 18, 2022

Misinformation and Its Impacts被引用 4

一句话总结

本研究通过一项包含2,016名美国参与者的观察性调查，调查了人类偏见与人口统计学一致性如何影响社交媒体上对深度伪造的易感性。研究发现，当视频中人物的身份特征与用户自身的人口统计学特征一致时，用户在检测深度伪造方面更为准确；数学模型表明，多样化的社交网络可实现‘群体校正’，从而降低集体对虚假信息的易感性。

ABSTRACT

Social media platforms often assume that users can self-correct against misinformation. However, social media users are not equally susceptible to all misinformation as their biases influence what types of misinformation might thrive and who might be at risk. We call "diverse misinformation" the complex relationships between human biases and demographics represented in misinformation. To investigate how users' biases impact their susceptibility and their ability to correct each other, we analyze classification of deepfakes as a type of diverse misinformation. We chose deepfakes as a case study for three reasons: 1) their classification as misinformation is more objective; 2) we can control the demographics of the personas presented; 3) deepfakes are a real-world concern with associated harms that must be better understood. Our paper presents an observational survey (N=2,016) where participants are exposed to videos and asked questions about their attributes, not knowing some might be deepfakes. Our analysis investigates the extent to which different users are duped and which perceived demographics of deepfake personas tend to mislead. We find that accuracy varies by demographics, and participants are generally better at classifying videos that match them. We extrapolate from these results to understand the potential population-level impacts of these biases using a mathematical model of the interplay between diverse misinformation and crowd correction. Our model suggests that diverse contacts might provide "herd correction" where friends can protect each other. Altogether, human biases and the attributes of misinformation matter greatly, but having a diverse social group may help reduce susceptibility to misinformation.

研究动机与目标

• 调查个体人类偏见与人口统计学一致性如何影响社交媒体上对深度伪造的易感性。
• 检验当视频中人物的身份特征（如种族、性别、年龄）与用户自身人口统计学身份一致时，用户是否能更准确地检测深度伪造。
• 建立虚假信息多样性的群体层面影响模型，并评估多样化社交网络是否能实现集体校正。
• 评估感知与偏见在虚假信息检测中的作用，独立于深度伪造生成中算法模型的偏见。
• 通过大规模调查，提供关于观看者人口统计学特征与深度伪造检测准确性之间相互作用的实证证据。

提出的方法

• 通过Qualtrics调查面板开展了一项观察性调查（N=2,016），参与者在未明确提示深度伪造检测的情况下观看视频。
• 使用马修斯相关系数（MCC）衡量参与者作为人类分类器的分类准确性，其取值范围为-1（完全不一致）至1（完全一致），并与真实情况对比。
• 采用自 resampling（10,000次抽样）方法比较不同人口统计子组之间的MCC差异，并检验偏见的统计显著性。
• 使用贝叶斯逻辑回归模型，分析人口统计学匹配（年龄、性别、种族）与检测准确性之间的关系。
• 开发了一个关于虚假信息传播与校正的网络数学模型，以模拟多样化社交关系中群体校正效应的实现。
• 对调查的聚合匿名数据进行分析，完整代码与数据已发布于GitHub，同时保护了参与者隐私。

实验结果

研究问题

• RQ1 参与者与深度伪造人物在人口统计学上的一致性如何影响检测准确性？
• RQ2 哪些人口统计群体最容易或最不容易被深度伪造误导？
• RQ3 多样化社交网络在多大程度上可通过同伴影响实现虚假信息的集体校正？
• RQ4 人类感知偏见（而非算法模型偏见）如何影响深度伪造检测结果？
• RQ5 当个体因身份特征差异而对虚假信息的易感性不同时，多样化虚假信息的群体层面影响是什么？

主要发现

• 当深度伪造人物的身份特征（种族、性别、年龄）与用户自身一致时，参与者在检测深度伪造方面显著更准确，表明存在强烈的观看者偏见。
• 检测准确性的马修斯相关系数（MCC）因人口统计群体而异，当参与者与人物共享人口统计属性时，MCC值更高。
• 参与者对与自己同种族、同性别和同年龄群体的深度伪造检测准确性更高，表明群体内感知可增强批判性评估能力。
• 数学模型表明，多样化社交网络可导致‘群体校正’，即具有不同人口统计背景的朋友可共同降低虚假信息的易感性。
• 即使在使用平衡的深度伪造数据集（如Facebook深度伪造检测挑战赛数据集）的情况下，人类感知偏见依然存在，并显著影响检测结果。
• 本研究未发现视频质量方面存在系统性算法偏见影响检测，因为观察到的准确性差异是由观看者感知而非视频保真度驱动的。