[论文解读] Comparing Human and Machine Deepfake Detection with Affective and Holistic Processing.

Matthew Groh, Ziv Epstein+2 more|arXiv (Cornell University)|May 13, 2021

Generative Adversarial Networks and Image Synthesis参考文献 72被引用 4

一句话总结

本研究通过三项在线实验，对15,016名参与者进行了人类与基于人工智能的深度伪造检测对比研究。研究发现，人类与最先进模型在准确率上表现相当，但犯错方式不同；当模型预测正确时，结合人类判断与模型预测可提升检测效果，但模型出错时会损害人类表现。情绪状态和整体面部处理显著影响人类检测能力，表明心理与感知因素是抵御深度伪造的关键防御机制。

ABSTRACT

The recent emergence of deepfake videos leads to an important societal question: how can we know if a video that we watch is real or fake? In three online studies with 15,016 participants, we present authentic videos and deepfakes and ask participants to identify which is which. We compare the performance of ordinary participants against the leading computer vision deepfake detection model and find them similarly accurate while making different kinds of mistakes. Together, participants with access to the model's prediction are more accurate than either alone, but inaccurate model predictions often decrease participants' accuracy. We embed randomized experiments and find: incidental anger decreases participants' performance and obstructing holistic visual processing of faces also hinders participants' performance while mostly not affecting the model's. These results suggest that considering emotional influences and harnessing specialized, holistic visual processing of ordinary people could be promising defenses against machine-manipulated media.

研究动机与目标

• 调查普通人与最先进的计算机视觉模型在检测深度伪造视频方面的表现差异。
• 考察偶然情绪与整体视觉处理对人类深度伪造检测表现的影响。
• 评估将人类判断与人工智能模型预测相结合是否能提升整体检测准确率。
• 识别可作为抵御机器操控媒体的心理与感知因素。

提出的方法

• 开展三项在线研究，共招募15,016名参与者，展示真实视频与深度伪造视频，要求其判断哪一个是真实的。
• 将人类检测准确率与领先计算机视觉深度伪造检测模型的预测结果进行对比。
• 嵌入随机化实验，以操纵偶然愤怒情绪，并干扰面部的整体视觉处理。
• 测量在情绪与感知干扰条件下表现的变化。
• 分析人类决策与模型预测之间的交互效应，特别是当模型预测错误时的情况。
• 使用统计建模方法评估情绪状态与视觉处理限制对检测准确率的影响。

实验结果

研究问题

• RQ1 普通人与最先进的深度伪造检测模型在识别被篡改视频方面的准确率如何比较？
• RQ2 与模型表现相比，偶然愤怒如何影响人类检测深度伪造的表现？
• RQ3 阻碍整体面部处理对人类深度伪造检测准确率有何影响？这种影响是否同样作用于模型？
• RQ4 将人类判断与人工智能模型预测相结合是否能提升整体检测准确率？在何种条件下可实现？
• RQ5 情绪与感知因素在多大程度上调节人类对深度伪造欺骗的易感性？

主要发现

• 人类与领先的计算机视觉深度伪造检测模型在识别深度伪造方面达到了相似的高准确率。
• 偶然愤怒显著降低了人类检测表现，而对模型准确率几乎没有影响。
• 阻碍面部的整体视觉处理会损害人类检测表现，但对模型表现无显著影响。
• 当模型提供正确预测时，结合其输出与人类判断可使整体检测准确率超过单独使用任一方法的效果。
• 模型预测错误常导致人类检测准确率下降，表明对人工智能的过度依赖可能产生负面影响。
• 结果表明，情绪状态与整体视觉处理是人类深度伪造检测中关键但被低估的因素。