[论文解读] Limits of Deepfake Detection: A Robust Estimation Viewpoint

Sakshi Agarwal, Lav R. Varshney|arXiv (Cornell University)|May 9, 2019

Digital Media Forensic Detection参考文献 22被引用 40

一句话总结

本文将深度伪造检测视为真实图像与 GAN 生成图像之间的假设检验，并在不同 GAN 实现中利用各种散度度量和欧几里得近似，给出对检测错误的鲁棒统计界限，并与网络中的疫情阈值相关联。

ABSTRACT

Deepfake detection is formulated as a hypothesis testing problem to classify an image as genuine or GAN-generated. A robust statistics view of GANs is considered to bound the error probability for various GAN implementations in terms of their performance. The bounds are further simplified using a Euclidean approximation for the low error regime. Lastly, relationships between error probability and epidemic thresholds for spreading processes in networks are established.

研究动机与目标

• 将深度伪造检测表述为真实输出与 GAN 生成输出之间的假设检验问题。
• 开发一个鲁棒统计框架，通过一个 oracle OPT 距离来界定跨 GAN 实现的检测错误。
• 推导并比较 KL 散度、全变差、 Jensen-Shannon 散度和 Wasserstein 度量下的误差界限，并包括欧几里得近似。
• 将该框架扩展到高分辨率图像和基于补丁的分析，并将检测性能与网络中的疫情阈值联系起来。

提出的方法

• 将 GAN 输出建模为真实图像分布与生成分布之间的 L 距离。
• 将 OPT 定义为 GAN 生成器族在 L 上的下确界，作为 oracle 误差。
• 使用 Neyman-Pearson 和贝叶斯界来将误差概率与基于 L 函数的距离联系起来。
• 推导 KL、TV、JS 与 Wasserstein 距离的显式界限；结合 reverse Pinsker 不等式及相关不等式。
• 应用欧几里得信息论在低误差情形下简化界限。
• 推广到图像补丁，并讨论对高分辨率内容的影响。

实验结果

研究问题

• RQ1 在不同分布距离下检测 GAN 生成内容的基本误差界限是什么？
• RQ2 散度度量的选择（KL、TV、JS、Wasserstein）如何影响深度伪造的可检测性？
• RQ3 图像分辨率（样本量 n）对检测可靠性有何影响？
• RQ4 疫情阈值理论如何为通过深度伪造传播或遏制虚假信息提供启示？

主要发现

• 检测误差界限随样本量 n 指数衰减，速率与 OPT（真实分布与生成分布之间可达到的最佳 L 距离）相关。
• KL 基于的界限给出 Neyman-Pearson 与贝叶斯误差，随 OPT 或相关项变化（如 exp(-n OPT) 及相关表达式）。
• 全变差和 Jensen-Shannon 基于的界限在误差概率上呈指数或多项式衰减，取决于度量和情形。
• 欧几里得近似给出更简单的界限，在某些条件下显示如 P_e^(n) <= exp(-n OPT/4)。
• 更高的 OPT（更差的 GAN 精度）使深度伪造更易被检测，而更高的图像分辨率加强了不可检测性的可靠性要求。
• 疫情阈值分析给出在何种 OPT 条件下，深度伪造在网络中可以局部遏制。