[论文解读] Frameworks, Modeling and Simulations of Misinformation and Disinformation: A Systematic Literature Review

Alejandro Buitrago López, Javier Pastor-Galindo+1 more|arXiv (Cornell University)|Jun 13, 2024

Misinformation and Its Impacts被引用 4

一句话总结

本篇系统性文献回顾（2024年）采用PRISMA方法论，分析了57项关于错误信息与虚假信息框架、模型及仿真的研究。研究发现，意图是区分虚假信息（故意为之）与错误信息（无意为之）的关键；流行病学模型与信念更新模型占主导地位；验证主要依赖与现实世界数据的对比；在有效干预方面，仍存在整体性、经验证及情境感知建模方法的关键空白。

ABSTRACT

The prevalence of misinformation and disinformation poses a significant challenge in today's digital landscape. That is why several methods and tools are proposed to analyze and understand these phenomena from a scientific perspective. To assess how the mis/disinformation is being conceptualized and evaluated in the literature, this paper surveys the existing frameworks, models and simulations of mis/disinformation dynamics by performing a systematic literature review up to 2023. After applying the PRISMA methodology, 57 research papers are inspected to determine (1) the terminology and definitions of mis/disinformation, (2) the methods used to represent mis/disinformation, (3) the primary purpose beyond modeling and simulating mis/disinformation, (4) the context where the mis/disinformation is studied, and (5) the validation of the proposed methods for understanding mis/disinformation. The main findings reveal a consistent essence definition of misinformation and disinformation across studies, with intent as the key distinguishing factor. Research predominantly uses social frameworks, epidemiological models, and belief updating simulations. These studies aim to estimate the effectiveness of mis/disinformation, primarily in health and politics. The preferred validation strategy is to compare methods with real-world data and statistics. Finally, this paper identifies current trends and open challenges in the mis/disinformation research field, providing recommendations for future work agenda.

研究动机与目标

• 理解学术文献中错误信息与虚假信息的概念定义及其表现形式。
• 识别用于研究错误信息与虚假信息动态的主流建模与仿真技术。
• 评估开发这些框架、模型与仿真背后的主要研究目标。
• 绘制错误信息与虚假信息研究最活跃的语境（如健康、政治、危机等）。
• 评估用于确保所提模型与仿真可靠性与可行性的验证策略。

提出的方法

• 采用PRISMA框架开展系统性文献回顾，以识别并筛选截至2023年的相关研究。
• 基于预设的纳入与排除标准，从主要学术数据库中选取57篇同行评审论文。
• 根据术语使用、建模方法、仿真类型、研究目的、研究语境及验证方法对研究进行分类。
• 采用主题分析与定性分析方法，提取定义、建模技术与验证实践中的模式。
• 绘制不同模型类型（如流行病学模型、意见动力学模型、博弈论模型）及仿真目标（如信念更新、对策评估）的普遍性。
• 评估验证方法，包括与现实世界数据对比、问卷调查、数学证明及焦点小组访谈。

实验结果

研究问题

• RQ1 文献中如何定义并区分错误信息与虚假信息？
• RQ2 用于表征错误信息与虚假信息动态的主流框架、模型与仿真技术有哪些？
• RQ3 开发这些模型与仿真背后的主要研究目标是什么？
• RQ4 错误信息与虚假信息在哪些领域或语境中被最频繁研究？
• RQ5 采用了哪些验证策略？它们在确保模型可靠性方面的有效性如何？

主要发现

• 文献中对错误信息（无欺骗意图的虚假信息）与虚假信息（有故意误导意图的虚假信息）存在一致的区分。
• 流行病学模型是最普遍的建模方法，其次为意见动力学模型与信念更新仿真。
• 大多数模型的主要目的是评估错误信息与虚假信息攻击及其相关对策的有效性。
• 健康与政治是主要的应用语境，但许多研究仍保持通用性，缺乏情境特异性。
• 验证常缺失或较弱，但当使用时，与现实世界数据对比是最常见且最可靠的策略。
• 仅有两项研究同时整合了社会与技术框架，凸显了整体性、跨学科建模方法的缺失。