[论文解读] ExtremeBB: Enabling Large-Scale Research into Extremism, the Manosphere and Their Correlation by Online Forum Data.

Anh V. Vu, Lydia Wilson+3 more|arXiv (Cornell University)|Nov 8, 2021

Terrorism, Counterterrorism, and Political Violence被引用 9

一句话总结

ExtremeBB 是一个大规模、结构化的数据集，包含来自12个极端主义在线论坛的近4400万条帖子，使研究人员能够对极端主义、厌女主义、激进化及意识形态演变进行长达二十年的大规模定量与定性分析。研究发现，这些社区内部存在复杂且异质的互动网络与内部分歧，挑战了极端主义意识形态同质化的刻板印象，提示应采取更细致的政策干预，而非全面封禁平台。

ABSTRACT

Online extremism is a growing and pernicious problem, and increasingly linked to real-world violence. We introduce a new resource to help research and understand it: ExtremeBB is a structured textual dataset containing nearly 44M posts made by more than 300K registered members on 12 different online extremist forums, enabling both qualitative and quantitative large-scale analyses of historical trends going back two decades. It enables us to trace the evolution of different strands of extremist ideology; to measure levels of toxicity while exploring and developing the tools to do so better; to track the relationships between online subcultures and external political movements such as MAGA and to explore links with misogyny and violence, including radicalisation and recruitment. To illustrate a few potential uses, we apply statistical and data-mining techniques to analyse the online extremist landscape in a variety of ways, from posting patterns through topic modelling to toxicity and the membership overlap across different communities. A picture emerges of communities working as support networks, with complex discussions over a wide variety of topics. The discussions of many topics show a level of disagreement which challenges the perception of homogeneity among these groups. These two features of mutual support and a wide range of attitudes lead us to suggest a more nuanced policy approach than simply shutting down these websites. Censorship might remove the support that lonely and troubled individuals are receiving, and fuel paranoid perceptions that the world is against them, though this must be balanced with other benefits of de-platforming. ExtremeBB can help develop a better understanding of these sub-cultures which may lead to more effective interventions; it also opens up the prospect of research to monitor the effectiveness of any interventions that are undertaken.

研究动机与目标

• 为应对与现实暴力事件相关的在线极端主义日益严峻的挑战，创建一个大规模、结构化的数据集，以支持实证研究。
• 实现对极端主义社群的定性与定量分析，包括其意识形态演变、毒性水平及相互关联。
• 探究在线极端主义亚文化与外部政治运动（例如MAGA）以及厌女主义、暴力等意识形态之间的关系。
• 通过揭示内部分歧与支持网络，挑战极端主义论坛中意识形态同质化的假设。
• 通过理解在线社群作为脆弱个体支持系统的作用，为制定更细致的政策提供依据。

提出的方法

• 通过收集并结构化来自12个不同极端主义社群的近4400万条论坛帖子，构建了该数据集，覆盖超过20年的活动记录。
• 利用自然语言处理（NLP）技术对帖子进行处理，包括主题建模与毒性检测，以分析语言模式与意识形态内容。
• 应用网络分析方法，绘制不同论坛之间的成员重叠与社群关系图谱，揭示相互关联的亚文化群体。
• 使用统计建模分析发帖模式、时间趋势及话语随时间的演变。
• 该数据集支持探索性分析与假设检验，使研究人员能够探究激进化路径与意识形态转变。
• 该框架可通过真实论坛数据，实现毒性检测工具与社群层面分析的迭代优化。

实验结果

研究问题

• RQ1 在过去二十年中，不同在线论坛中的极端主义意识形态如何演变？
• RQ2 极端主义社群在多大程度上表现出内部分歧与思想多样性，从而挑战其意识形态同质化的普遍认知？
• RQ3 这些社群内部及跨社群的毒性与激进化模式有何特征？
• RQ4 在线极端主义亚文化如何与MAGA等更广泛的政治运动相联系？
• RQ5 这些论坛在多大程度上作为个体的支持网络发挥作用，以及封禁平台可能如何影响脆弱用户？

主要发现

• 这些论坛展现出显著的内部多样性与辩论，关键议题上存在大量分歧，与极端主义意识形态单一化的观念相矛盾。
• 社群作为相互支持网络运行，为成员（尤其是孤立或心理困扰者）提供心理与社会支持。
• 毒性水平在不同论坛与话题间存在差异，该数据集支持更精准的毒性测量与毒性检测工具开发。
• 不同极端主义社群之间存在可测量的成员重叠，表明存在相互关联的网络，而非孤立的回音室。
• 数据显示，厌女主义、暴力与MAGA等更广泛政治运动之间存在强烈关联，提示意识形态趋同。
• 封禁平台可能无意中移除关键支持系统，反而可能增加激进化风险，凸显需要采取针对性而非全面性的干预措施。