[论文解读] Soros, Child Sacrifices, and 5G: Understanding the Spread of Conspiracy Theories on Web Communities

Pujan Paudel, Jeremy Blackburn+3 more|arXiv (Cornell University)|Nov 3, 2021

Misinformation and Its Impacts被引用 4

一句话总结

本文提出了一种多平台的排序学习（Learning-to-Rank）管道，用于检测和分析 Reddit 与 Twitter 上的阴谋论讨论，基于 189 个 Snopes 已辟谣的指控。研究发现，主流子版块如 /r/worldnews 和 /r/politics 在传播阴谋论方面比专门的阴谋论社区更具影响力，后者主要进行深入探讨，但传播范围有限。

ABSTRACT

This paper presents a multi-platform computational pipeline geared to identify social media posts discussing (known) conspiracy theories. We use 189 conspiracy claims collected by Snopes, and find 66k posts and 277k comments on Reddit, and 379k tweets discussing them. Then, we study how conspiracies are discussed on different Web communities and which ones are particularly influential in driving the discussion about them. Our analysis sheds light on how conspiracy theories are discussed and spread online, while highlighting multiple challenges in mitigating them.

研究动机与目标

• 开发一种可扩展的、跨平台的社交媒体阴谋论讨论检测方法。
• 理解不同在线社区如何讨论和传播阴谋论。
• 识别在传播特定阴谋论方面最具影响力的社区。
• 评估毒性与语言差异在跨平台阴谋论话语中的作用。

提出的方法

• 训练一个排序学习模型，利用源自文本和互动模式的特征来识别与阴谋论相关的内容。
• 该系统在七个 Reddit 子版块和 Twitter 上应用，以 189 个 Snopes 已辟谣的阴谋论指控作为真实标签。
• 使用文本嵌入和语言分析，比较以阴谋论为导向的社区与一般兴趣社区之间的语言风格差异。
• 采用 Hawkes 过程对社区的影响力进行建模与排序，以触发更广泛的阴谋论讨论。
• 数据收集时间跨度为 2016 至 2021 年，涵盖 66,274 篇 Reddit 崩溃、288,721 条评论和 379,708 条推文。
• 该管道具有良好的泛化能力：在 Reddit 数据上进行训练的模型在 Twitter 上也表现出色，实现了跨平台检测。

实验结果

研究问题

• RQ1 不同在线社区在阴谋论讨论的持续时间、毒性及语言使用方面有何差异？
• RQ2 哪些网络社区在跨平台传播阴谋论方面最具影响力？
• RQ3 以阴谋论为导向的子版块与一般兴趣社区在话语风格上有多大差异？
• RQ4 不同社区中阴谋论讨论的语言模式有何不同，这些差异揭示了何种参与深度？
• RQ5 在某一平台（如 Reddit）上训练的模型能否有效检测另一平台（如 Twitter）上的阴谋论讨论？

主要发现

• Reddit 和 Twitter 上 80% 的阴谋论讨论持续时间超过一年，表明此类叙事具有长期持久性。
• 讨论阴谋论的 Reddit 评论比一般社区讨论更具毒性，尽管阴谋论帖子本身毒性最低。
• 以 /r/conspiracy 为代表的阴谋论子版块进行详细、调查性的讨论，而 /r/worldnews 和 /r/Conservative 等主流子版块则主要进行报道和引用指控。
• /r/worldnews 和 /r/politics 是传播与新冠疫情相关阴谋论最具影响力的社区。
• /r/Conservative 是传播与特朗普相关阴谋论最具影响力的社区，而 /r/democrats 对此类指控的影响力最小。
• 主流社区主导了阴谋论的传播，而专门的阴谋论子版块则作为信息回音室，对外部影响有限。