[论文解读] Pathways through Conspiracy: The Evolution of Conspiracy Radicalization through Engagement in Online Conspiracy Discussions

Shruti Phadke, Mattia Samory+1 more|arXiv (Cornell University)|Apr 22, 2022

Misinformation and Its Impacts被引用 8

一句话总结

本研究基于36,000名r/conspiracy用户在1.69亿条贡献中的表现，识别出四种截然不同的在线阴谋论参与路径——持续高、上升、下降和持续低。研究发现，处于持续高和上升路径的用户会经历三个激进化阶段（反思、探索、联结），表现为语言上的从众与社交联结；而处于下降路径的用户则通过主题专业化和从众性降低，显现出潜在的恢复迹象。

ABSTRACT

The disruptive offline mobilization of participants in online conspiracy theory (CT) discussions has highlighted the importance of understanding how online users may form radicalized conspiracy beliefs. While prior work researched the factors leading up to joining online CT discussions and provided theories of how conspiracy beliefs form, we have little understanding of how conspiracy radicalization evolves after users join CT discussion communities. In this paper, we provide the empirical modeling of various radicalization phases in online CT discussion participants. To unpack how conspiracy engagement is related to radicalization, we first characterize the users' journey through CT discussions via conspiracy engagement pathways. Specifically, by studying 36K Reddit users through their 169M contributions, we uncover four distinct pathways of conspiracy engagement: steady high, increasing, decreasing, and steady low. We further model three successive stages of radicalization guided by prior theoretical works. Specific sub-populations of users, namely those on steady high and increasing conspiracy engagement pathways, progress successively through various radicalization stages. In contrast, users on the decreasing engagement pathway show distinct behavior: they limit their CT discussions to specialized topics, participate in diverse discussion groups, and show reduced conformity with conspiracy subreddits. By examining users who disengage from online CT discussions, this paper provides promising insights about conspiracy recovery process.

研究动机与目标

• 理解用户加入讨论社区后在线阴谋论参与的演变过程，尤其关注激进化的轨迹。
• 识别用户在阴谋论（CT）子版面中随时间推移表现出的特定行为与语言模式。
• 利用计算与语言学特征，对理论上的激进化阶段（反思、探索、联结）的进展进行建模。
• 区分始终保持高度参与、选择退出或专注于特定主题的用户，以支持恢复过程的理解。
• 提出一种通用性量表以衡量单一化阴谋论世界观，并评估其与参与模式的相关性。

提出的方法

• 基于4,756个子版面训练阴谋论相似性量表，以衡量用户参与CT相关内容的程度，确保90%的用户在90%的时间内有活动覆盖。
• 基于用户在子版面中贡献的时间序列分析，定义了四种参与路径：持续高、上升、下降和持续低。
• 开发了一种通用性量表，通过词汇与话语模式量化用户对泛化阴谋论思维的采纳程度。
• 应用RECRO（反思、探索、联结、解决、操作）模型，利用语言、互动与活动特征检测激进化的阶段。
• 进行稳健性检验：阴谋论相似性与通用性量表之间的斯皮尔曼等级相关系数为0.23，按分位数划分用户活动，排除被封禁子版面，以确保结果有效性。
• 使用Pushshift API提供的公开Reddit数据（2015–2020年），未发布原始数据以保护隐私并防止用户身份复原。

实验结果

研究问题

• RQ1 在参与r/conspiracy的用户中，存在哪些不同的在线阴谋论参与路径？
• RQ2 不同参与路径的用户如何在理论上的在线激进化阶段（反思、探索、联结）中推进？
• RQ3 哪些语言与行为特征可区分被激进化的用户与选择退出或专业化的用户？
• RQ4 在下降参与路径上的用户在多大程度上显现出从阴谋论信念中潜在恢复的迹象？
• RQ5 外部因素（如子版面封禁或用户封禁）在多大程度上影响观察到的参与与退出模式？

主要发现

• 通过36,000名用户与1.69亿条贡献的纵向分析，识别出四种截然不同的参与路径：持续高、上升、下降与持续低。
• 处于持续高与上升路径的用户，其对内部语言的使用逐渐增加，并反复参与小群体讨论，表明其正经历激进化的探索与联结阶段。
• 这些高参与度用户表现出对阴谋论社群语言的日益从众，并越来越多地参与通用型CT子版面，支持了阴谋论信念演化中单一化倾向的假设。
• 相比之下，处于下降路径的用户将其贡献限制在特定阴谋论主题上，参与多样化的子版面，且未表现出对CT社群的语言从众，提示可能存在恢复轨迹。
• 通用性量表有效捕捉了从专业型向通用型阴谋论思维的转变，其与阴谋论相似性的弱相关性（0.23）表明两个量表衡量的是不同维度。
• 子版面封禁对整体发现影响甚微，因为截至2020年仅有21个子版面被封禁，且合计贡献不足总数据量的0.2%。