[论文解读] Understanding Online Migration Decisions Following the Banning of Radical Communities

Giuseppe Russo, Manoel Horta Ribeiro+2 more|arXiv (Cornell University)|Dec 9, 2022

Hate Speech and Cyberbullying Detection被引用 5

一句话总结

本研究探讨了RECRO极端化框架中的个体与社会因素如何影响用户在社区被封禁后选择迁移到边缘平台或同时在被禁的主流平台与替代平台保持活跃的决策。基于r/The_Donald与r/fatpeoplehate的两步回归分析发现，个体层面的反思因素（如毒性、情绪性）驱动了用户迁移，而社会联结因素（如与已迁移用户的互动）则增加了双重平台活跃度，揭示了平台迁移与双平台参与背后截然不同的动机。

ABSTRACT

The proliferation of radical online communities and their violent offshoots has sparked great societal concern. However, the current practice of banning such communities from mainstream platforms has unintended consequences: (I) the further radicalization of their members in fringe platforms where they migrate; and (ii) the spillover of harmful content from fringe back onto mainstream platforms. Here, in a large observational study on two banned subreddits, r/The\_Donald and r/fatpeoplehate, we examine how factors associated with the RECRO radicalization framework relate to users' migration decisions. Specifically, we quantify how these factors affect users' decisions to post on fringe platforms and, for those who do, whether they continue posting on the mainstream platform. Our results show that individual-level factors, those relating to the behavior of users, are associated with the decision to post on the fringe platform. Whereas social-level factors, users' connection with the radical community, only affect the propensity to be coactive on both platforms. Overall, our findings pave the way for evidence-based moderation policies, as the decisions to migrate and remain coactive amplify unintended consequences of community bans.

研究动机与目标

• 理解影响用户在主流平台社区被封禁后迁移到边缘平台的因素。
• 分析用户在主流平台与边缘平台双重参与（即共动）行为与个体及社会因素的关系。
• 评估封禁极端社区的非预期后果，如极端化加剧与有害内容外溢。
• 通过识别RECRO框架中哪些因素可预测迁移与共动行为，为基于证据的平台管理政策提供依据。

提出的方法

• 采用两步回归分析，建立用户决策的模型：(1) 迁移到边缘平台；(2) 在两个平台同时活跃。
• 使用r/The_Donald与r/fatpeoplehate的用户行为指标作为RECRO框架因素的代理变量：反思（毒性、情绪性）、探索（兴趣多样性、参与度）与联结（与已封禁前迁移用户的互动、近期成员）。
• 应用逻辑回归模型，基于RECRO因素估算迁移与共动的概率。
• 将用户划分为四类行为类别：仅主流平台、仅边缘平台、共动、不活跃。
• 控制用户层面的人口统计学特征与平台特定行为，以隔离RECRO因素的影响。
• 通过使用两个具有不同意识形态的被封禁子版块进行验证，以检验结果的稳健性。

实验结果

研究问题

• RQ1 RECRO框架中的哪些个体层面因素可预测用户在社区被封禁后迁移到边缘平台？
• RQ2 社会因素——尤其是用户与被封禁社区中其他成员的互动——如何影响其在主流平台与边缘平台同时活跃的可能性？
• RQ3 用户在线兴趣的多样性（探索）在多大程度上影响其在社区被封禁后仍保持在主流平台活跃的决策？
• RQ4 与已被迁移至边缘平台的社区成员互动的用户，其在两个平台的共动行为是更高还是更低？

主要发现

• 表现出更高在线毒性（TOX）与情绪性（EMO）的用户，显著更可能迁移到边缘平台，表明个体心理与行为特征驱动了迁移决策。
• 与已迁移到边缘平台的用户互动（APB）使r/The_Donald中用户共动概率最高提升70%，表明与已迁移成员的社会联结强烈预测双平台参与。
• 用户内容多样性的30%下降使共动概率提升22%，表明兴趣更集中、更专注的用户更可能在两个平台同时活跃。
• 与被封禁社区中更多近期成员互动（SEN）的用户更可能保持共动，表明持续的社会融合有助于维系跨平台存在感。
• 与反思相关的因素（如TOX、EMO）对共动无统计显著预测力，表明个体行为本身不足以驱动双平台活跃。
• 兴趣多样性（DIV）是唯一与共动显著相关的探索因素，凸显其在维系主流平台参与中的关键作用。