[论文解读] The False COVID-19 Narratives That Keep Being Debunked: A Spatiotemporal Analysis

Iknoor Singh, Kalina Bontcheva+1 more|arXiv (Cornell University)|Jul 26, 2021

Misinformation and Its Impacts参考文献 22被引用 5

一句话总结

本研究利用来自CoronaVirusFacts Alliance的10,381条事实核查数据集，分析了被驳斥的虚假COVID-19叙事在时空上的重复出现。研究发现，几乎相同的虚假叙事在初始驳斥数月后，仍在多个国家和平台重复出现，尤其以一般性医疗建议的形式为主，导致事实核查工作重复投入；作者提出开发多语言驳斥搜索工具并推动平台级采纳，以减少资源浪费。

ABSTRACT

The onset of the COVID-19 pandemic led to a global infodemic that has brought unprecedented challenges for citizens, media, and fact-checkers worldwide. To address this challenge, over a hundred fact-checking initiatives worldwide have been monitoring the information space in their countries and publishing regular debunks of viral false COVID-19 narratives. This study examines the database of the CoronaVirusFacts Alliance, which contains 10,381 debunks related to COVID-19 published in multiple languages by different fact-checking organisations. Our spatiotemporal analysis reveals that similar or nearly duplicate false COVID-19 narratives have been spreading in multiple modalities and on various social media platforms in different countries, sometimes as much as several months after the first debunk of that narrative has been published by an International Fact-checking Network (IFCN) fact-checker. We also find that misinformation involving general medical advice has spread across multiple countries and hence has the highest proportion of false COVID-19 narratives that keep being debunked. Furthermore, as manual fact-checking is an onerous task in itself, therefore the need to repeatedly debunk the same narrative in different countries is leading, over time, to a significant waste of fact-checker resources. To this end, we propose the idea of including a multilingual debunk search tool in the fact-checking pipeline, in addition to recommending strongly that social media platforms need to adopt the same technology at scale, so as to make the best use of scarce fact-checker resources.

研究动机与目标

• 调查虚假COVID-19叙事在不同国家和社交媒体平台上的持续存在与重复出现情况。
• 识别在先前更正后仍被反复驳斥的虚假叙事类型模式。
• 量化相同叙事在多个地区重复进行人工事实核查所导致的资源低效问题。
• 提出一种可扩展的技术解决方案——多语言驳斥搜索工具，以减少重复的事实核查工作。
• 倡导社交媒体平台大规模集成该技术，以提升虚假信息应对效果。

提出的方法

• 对来自CoronaVirusFacts Alliance的10,381条事实核查数据集进行时空分析，涵盖多种语言和事实核查组织。
• 追踪相同或几乎相同的虚假叙事在不同国家和社交媒体平台上的时间与空间重复出现情况。
• 按主题对虚假叙事进行分类，重点关注一般性医疗建议，以评估其重复出现频率。
• 识别出曾被驳斥一次但数月后在不同地区再次出现的叙事，表明其传播具有持续性。
• 提出将多语言驳斥搜索工具整合进事实核查流程，以实现对重复出现虚假叙事的早期检测与阻断。
• 倡导在平台层面部署该技术，以防止虚假信息大规模再次传播。

实验结果

研究问题

• RQ1 在被驳斥后，相同的虚假COVID-19叙事在不同国家和社交媒体平台上重复出现的频率如何？
• RQ2 哪些类型的虚假叙事——特别是涉及一般性医疗建议的类型——最易反复传播？
• RQ3 从叙事首次被驳斥到其在其他地区再次出现之间，存在多长的时间延迟？
• RQ4 相同叙事的重复出现在多大程度上导致了人工事实核查工作的重复投入？
• RQ5 多语言驳斥搜索工具在多大程度上可减轻事实核查人员负担，并实现虚假信息应对的规模化改进？

主要发现

• 几乎相同的虚假COVID-19叙事在多个国家和多个平台上重复出现，有时在首次被驳斥数月后仍会重现。
• 与一般性医疗建议相关的虚假叙事具有最高的重复出现率，表明其传播范围广且持续性强。
• 同一则叙事在不同地区被多次人工驳斥，凸显了事实核查工作流程中的显著低效。
• 本研究揭示了当前虚假信息应对中的一个关键缺口：缺乏可扩展的、多语言的重复虚假声明检测机制。
• 所提出的多语言驳斥搜索工具可通过早期识别重复传播的叙事，显著减少重复事实核查工作。
• 呼吁社交媒体平台大规模采纳该技术，以防止已被驳斥的内容再次出现。