[论文解读] The Aftermath of Disbanding an Online Hateful Community

Haji Mohammad Saleem, Derek Ruths|arXiv (Cornell University)|Apr 19, 2018

Obesity and Health Practices参考文献 10被引用 34

一句话总结

本研究考察了Reddit封禁大型仇恨亚文化社区r/fatpeoplehate（FPH）后的后续影响，发现该封禁显著降低了用户参与度，并阻止了成员在其他地方重组。尽管曾短暂尝试创建替代社区，但FPH用户最终被平台和版主行动有效遏制，导致持续性脱钩及Reddit上仇恨言论活动的减少。

ABSTRACT

Harassing and hateful speech in online spaces has become a common problem for platform maintainers and their users. The toxicity created by such content can discourage user participation and engagement. Therefore, it is crucial for and a common goal of platform managers to diminish hateful and harmful content. Over the last year, Reddit, a major online platform, enacted a policy of banning sub-communities (subreddits) that they deem harassing, with the goal of diminishing such activities. We studied the effects of banning the largest hateful subreddit (r/fatpeoplehate or FPH) on the users and other subreddits that were associated with it. We found that, while a number of outcomes were possible --- in this case the subreddit ban led to a sustained reduced interaction of its members (FPH users) with the Reddit platform. We also found that the many counter-actions taken by FPH users were short-lived and promptly neutralized by both Reddit administrators and the admins of individual subreddits. Our findings show that forum-banning can be an effective means by which to diminish objectionable content. Moreover, our detailed analysis of the post-banning behavior of FPH users highlights a number of the behavioral patterns that banning can create.

研究动机与目标

• 理解在Reddit上封禁一个大型活跃的仇恨在线社区所产生的行为与系统性后果。
• 调查封禁一个子版面是否真正减少了仇恨言论，还是仅仅将其转入地下。
• 考察用户及其他子版面在主要仇恨社区解散后如何应对。
• 评估平台管理员与版主在此类封禁事件后续影响中的作用。
• 评估社区层级封禁后对用户参与度与内容可见性的长期影响。

提出的方法

• 对r/fatpeoplehate（FPH）被封禁前后Reddit上的用户活动与评论量进行纵向分析。
• 追踪FPH用户向其他子版面（特别是r/fatlogic、r/fatpeopelstories和r/loseit）的迁移模式。
• 监控Reddit管理员与子版面版主针对FPH用户活动所采取的监管行动。
• 分析评论踩低与删除情况，以评估社区层面针对FPH内容的抵制程度。
• 量化封禁后参与度的变化，包括评论量与用户留存率。
• 评估通过行政手段阻止新仇恨导向子版面创建的成功程度。

实验结果

研究问题

• RQ1 被封禁的仇恨子版面成员在平台整体上的持续参与度如何？
• RQ2 被封禁用户能否成功在新子版面中重建其社区？平台层面的干预措施在多大程度上能阻止此类行为？
• RQ3 其他子版面及其版主如何应对被封禁用户及仇恨言论内容的涌入？
• RQ4 封禁一个社区在多大程度上减少了平台上仇恨内容的可见度与数量？
• RQ5 用户主导的监管行为（如踩低、删除）在遏制封禁后的仇恨言论中起到何种作用？

主要发现

• r/fatpeoplehate的封禁导致用户参与度持续下降，大量活跃的FPH贡献者完全停止在Reddit上发表评论。
• FPH用户曾试图创建替代子版面，但这些子版面迅速被Reddit管理员封禁，严重限制了其重组能力。
• 尽管FPH用户访问r/fatlogic、r/fatpeopelstories和r/loseit等关联子版面的访问量激增，但这些社区通过监管手段限制了访问并删除了与FPH相关的内容。
• 虽然整体上被踩低的FPH评论数量减少，但被踩低评论中仇恨内容的比例更高，表明社区层面存在有针对性的抵制。
• Reddit管理员与子版面版主的协同行动有效遏制了封禁后仇恨言论的传播，凸显了协调监管的重要性。
• 封禁成功降低了FPH相关内容在平台范围内的存在感，主要归因于核心用户的脱钩以及缺乏可行的替代社区。