[论文解读] How can we combat online misinformation? A systematic overview of current interventions and their efficacy

Pica Johansson, Florence E. Enock+5 more|arXiv (Cornell University)|Dec 22, 2022

Misinformation and Its Impacts被引用 4

一句话总结

本文提出了一套系统性的三层框架，用于对在线虚假信息干预措施进行分类与评估，将其划分为：(1) 减少易感性的准备阶段，(2) 阻止传播与影响的遏制阶段，以及(3) 响应性行动。该研究综合现有研究成果以评估干预措施的有效性，为政策制定者和研究人员提供一种结构化、基于证据的工具，用于评估和选择干预措施。关键发现指出，媒体素养和预先防范（pre-bunking）具有中等到较强的效力，而事实核查和算法干预的效果则参差不齐。

ABSTRACT

The spread of misinformation is a pressing global problem that has elicited a range of responses from researchers, policymakers, civil society and industry. Over the past decade, these stakeholders have developed many interventions to tackle misinformation that vary across factors such as which effects of misinformation they hope to target, at what stage in the misinformation lifecycle they are aimed at, and who they are implemented by. These interventions also differ in how effective they are at reducing susceptibility to (and curbing the spread of) misinformation. In recent years, a vast amount of scholarly work on misinformation has become available, which extends across multiple disciplines and methodologies. It has become increasingly difficult to comprehensively map all of the available interventions, assess their efficacy, and understand the challenges, opportunities and tradeoffs associated with using them. Few papers have systematically assessed and compared the various interventions, which has led to a lack of understanding in civic and policymaking discourses. With this in mind, we develop a new hierarchical framework for understanding interventions against misinformation online. The framework comprises three key elements: Interventions that Prepare people to be less susceptible; Interventions that Curb the spread and effects of misinformation; and Interventions that Respond to misinformation. We outline how different interventions are thought to work, categorise them, and summarise the available evidence on their efficacy; offering researchers, policymakers and practitioners working to combat online misinformation both an analytical framework that they can use to understand and evaluate different interventions (and which could be extended to address new interventions that we do not describe here) and a summary of the range of interventions that have been proposed to date.

研究动机与目标

• 为应对在线虚假信息日益严峻的挑战，系统性地映射并评估跨学科与多方法论的现有干预措施。
• 开发一个分层的、基于证据的框架，将干预措施划分为三个核心类别：准备、遏制与响应。
• 评估干预措施在虚假信息生命周期不同阶段的效力，识别其优势、局限与权衡。
• 通过整合零散的学术研究，减少公共讨论与政策制定中的碎片化现象，形成一致的分析工具。
• 为研究人员、实践者和政策制定者提供一个可重复使用的框架，以评估当前及未来的干预措施。

提出的方法

• 作者对在线虚假信息干预措施的学术文献进行了系统性综述，涵盖计算机科学、社会学和传播学等多个学科。
• 他们构建了一个包含三种主要干预类型的分层框架：(1) 帮助个体增强对虚假信息的抵抗力，(2) 减少虚假信息的传播与影响，(3) 在虚假信息出现后采取响应措施。
• 干预措施根据其在虚假信息生命周期中的目标阶段、实施主体（如平台、教育者、事实核查员）以及预期作用机制进行分类。
• 通过现有元分析、随机对照试验（RCTs）和观察性研究，综合评估干预措施有效性的证据，重点关注减少易感性、降低传播率以及提升识别能力等结果。
• 通过迭代式评审与现有文献的一致性校准，对框架进行验证，以确保概念清晰性与实际可用性。
• 本文强调了语境、时机与实施完整性在决定干预措施成功中的关键作用。

实验结果

研究问题

• RQ1 如何基于干预措施的作用机制与在虚假信息生命周期中的时机，对在线虚假信息干预措施进行系统性分类？
• RQ2 在减少人们对虚假信息的易感性与传播方面，不同干预类型（准备、遏制与响应）的相对有效性如何？
• RQ3 影响虚假信息干预措施成功的关键挑战、权衡因素与情境因素有哪些？
• RQ4 干预措施在不同虚假信息阶段（如事前预防 vs. 事后应对）中的有效性有何差异？
• RQ5 哪些证据支持特定干预措施的使用，例如媒体素养、预先防范（pre-bunking）、事实核查或算法过滤？

主要发现

• 媒体素养与预先防范（pre-bunking）干预措施显示出中等到较强的证据，表明其能有效降低人们对虚假信息的易感性，尤其是在暴露前实施时效果更佳。
• 事实核查干预措施的效果参差不齐，部分研究显示其具有短期影响，但长期记忆保持率或行为改变效果有限。
• 针对平台层面的干预措施——如内容审核与算法过滤——效果不一，常受可扩展性、透明度及潜在偏见的制约。
• 遏制策略（如警告标签与信息源可信度标识）在与教育性内容结合时更为有效。
• 干预措施的有效性高度依赖于具体语境，文化、政治与技术因素显著影响其结果。
• 目前缺乏对干预措施的长期评估，大多数研究聚焦于短期的行为或态度变化，而非持续性影响。