[论文解读] The Verification Crisis: Expert Perceptions of GenAI Disinformation and the Case for Reproducible Provenance

Alexander Loth, Martín Munizaga Kappes+1 more|arXiv (Cornell University)|Feb 2, 2026

Scientific Computing and Data Management被引用 0

一句话总结

一个涵盖 AI、政策和错误信息领域的21名专家的第一波研究发现，多模态 GenAI 错误信息是一种现存且日益升级的威胁，文本带来系统性的认识论风险，深度伪造视频触发即时震撼；专家主张可重复溯源与基础设施优于纯技术检测。

ABSTRACT

The growth of Generative Artificial Intelligence (GenAI) has shifted disinformation production from manual fabrication to automated, large-scale manipulation. This article presents findings from the first wave of a longitudinal expert perception survey (N=21) involving AI researchers, policymakers, and disinformation specialists. It examines the perceived severity of multimodal threats -- text, image, audio, and video -- and evaluates current mitigation strategies. Results indicate that while deepfake video presents immediate "shock" value, large-scale text generation poses a systemic risk of "epistemic fragmentation" and "synthetic consensus," particularly in the political domain. The survey reveals skepticism about technical detection tools, with experts favoring provenance standards and regulatory frameworks despite implementation barriers. GenAI disinformation research requires reproducible methods. The current challenge is measurement: without standardized benchmarks and reproducibility checklists, tracking or countering synthetic media remains difficult. We propose treating information integrity as an infrastructure with rigor in data provenance and methodological reproducibility.

研究动机与目标

• 评估 GenAI 错误信息在文本、图像、音频和视频模态下的感知严重性。
• 评估当前缓解策略及其有效性。
• 主张可重复溯源和基础设施方法以维护信息完整性。
• 提出一个结合清单、方法中心和知识图谱的实用框架，推动可重复研究。
• 阐述一个三幕叙事和实现真相验证基础设施的可操作路径。

提出的方法

• 有目的的滚雪球抽样以招募来自 AI 研究、政策和错误信息领域的21名专家。
• 两潜在构念问卷，使用 Likert 量表（1–7）测量威胁严重性和缓解有效性。
• 通过反身性主题分析进行定性分析，以识别诸如“合成共识”和“黑箱失灵”等主题。
• 定量描述性统计以识别中心趋向和共识；定性数据进行归纳编码，并与定量结果三角校验。
• 可重复性声明，与 R2CASS 一致：数据、调查工具和分析代码将通过 GESIS 方法中心与 Momeni 等人的清单进行共享。

实验结果

研究问题

• RQ1 GenAI 错误信息在文本、图像、音频和视频模态下的感知威胁水平是多少？
• RQ2 专家认为哪些缓解策略最有效、哪些最无效，原因是什么？
• RQ3 能否通过可重复溯源框架比单纯检测更有效地解决验证危机？
• RQ4 知识图谱和方法中心等基础设施如何提升错误信息研究的可重复性？
• RQ5 需要哪些结构性变革以将防御从“检测”转向以溯源为中心？

主要发现

• 文本基 GenAI 内容被视为具有系统性威胁，存在高潜在合成共识和认识论分裂。
• 深度伪造视频显示出高冲击力，但被认为在长期威胁方面比文本更易被揭穿。
• 技术检测工具被视为长期解决方案中最不有效，因为存在黑箱限制和对手演化。
• 专家倾向于采用溯源标准和监管框架，尽管实施存在障碍。
• 提出可重复基础设施（清单、方法中心、知识图谱）被认为是应对大规模错误信息的关键。