[论文解读] Hate Raids on Twitch: Echoes of the Past, New Modalities, and Implications for Platform Governance

Catherine Y. Han, Joseph Seering+3 more|arXiv (Cornell University)|Jan 10, 2023

Hate Speech and Cyberbullying Detection被引用 4

一句话总结

本研究调查了Twitch平台上的仇恨突袭——一种针对特定身份的协调性攻击，通过大量种族主义和反犹太主义信息淹没主播的聊天室。研究基于大规模数据与对边缘化主播及工具开发者的访谈，揭示了尽管大多数突袭均出于仇恨动机，主要针对LGBTQ+和黑人主播，但部分突袭行为则类似于亚文化 trolling，促使社区自发形成防御策略，凸显了平台与社区协作治理的必要性。

ABSTRACT

In the summer of 2021, users on the livestreaming platform Twitch were targeted by a wave of "hate raids," a form of attack that overwhelms a streamer's chatroom with hateful messages, often through the use of bots and automation. Using a mixed-methods approach, we combine a quantitative measurement of attacks across the platform with interviews of streamers and third-party bot developers. We present evidence that confirms that some hate raids were highly-targeted, hate-driven attacks, but we also observe another mode of hate raid similar to networked harassment and specific forms of subcultural trolling. We show that the streamers who self-identify as LGBTQ+ and/or Black were disproportionately targeted and that hate raid messages were most commonly rooted in anti-Black racism and antisemitism. We also document how these attacks elicited rapid community responses in both bolstering reactive moderation and developing proactive mitigations for future attacks. We conclude by discussing how platforms can better prepare for attacks and protect at-risk communities while considering the division of labor between community moderators, tool-builders, and platforms.

研究动机与目标

• 理解Twitch平台上仇恨突袭的技术与社会特征，特别是其对边缘化身份的针对性。
• 考察LGBTQ+和黑人主播在仇恨突袭期间的生活经历，以及这些攻击对其安全与社区归属感的影响。
• 分析主播、社区管理员及第三方工具开发者对仇恨突袭的应对措施，包括反应性与前瞻性缓解策略。
• 探讨平台、社区与权力用户在应对协调性骚扰时的责任分工，并提出平台治理结构的改进建议。
• 倡导采用交叉性、以用户为中心的设计，优先考虑最脆弱用户在平台安全机制中的需求。

提出的方法

• 对9,664个热门Twitch频道的聊天数据进行大规模定量分析，基于消息内容与时间模式检测并刻画仇恨突袭特征。
• 利用社区汇总的已知恶意机器人列表，识别并过滤仇恨突袭活动，从而实现对协调性攻击的检测。
• 对七位LGBTQ+和/或黑人Twitch主播进行深入的半结构化访谈，以理解仇恨突袭对其情感、社会与结构性影响。
• 访谈两位第三方机器人开发者，以考察社区自主开发的管理工具在应对突袭时的技术设计与部署机制。
• 结合定性洞察与定量数据，识别出仇恨突袭的两种模式：仇恨驱动型攻击与亚文化trolling行为。
• 分析Twitch主播标签，评估攻击者是否利用自我标识的社区标签（如“Black”、“LGBTQ+”）来识别边缘化主播。

实验结果

研究问题

• RQ1 RQ1：仇恨突袭的基本特征是什么——它们如何被策划，目标是谁？
• RQ2 RQ2：仇恨突袭如何影响边缘化群体，特别是黑人和LGBTQ+主播？
• RQ3 RQ3：不同利益相关方（主播、社区管理员、工具开发者）如何应对仇恨突袭，涌现出哪些策略？
• RQ4 RQ4：平台如何更好地将社区知识与工具整合进其治理模式，以预防未来攻击？
• RQ5 RQ5：结构性不平等与平台设计在多大程度上促成了或缓解了仇恨突袭？

主要发现

• Twitch上98%的仇恨突袭信息为基于身份的攻击，其中反黑人种族主义和反犹太主义是最普遍的意识形态。
• 尽管大多数突袭具有仇恨动机，攻击者往往 indiscriminately（不加区分地）攻击流媒体，但证据表明他们利用主播标签（如“Black”、“LGBTQ+”）来识别边缘化群体。
• LGBTQ+和黑人主播报告称，仇恨突袭具有高度针对性、持续性，并属于更广泛的骚扰活动的一部分，有时甚至延伸至线下威胁，如swatting（虚假报警引诱警方突袭）。
• 社区采取了反应性管理（如静音、封禁）与前瞻性工具开发双重应对措施，包括开发第三方机器人实现实时过滤仇恨内容。
• 权力用户与社区工具开发者（如Sery）在缓解突袭中发挥了关键作用，表明平台应咨询并补偿此类贡献者。
• 本研究揭示了一个治理缺口：Twitch等平台往往未能对社区识别的威胁采取行动，导致依赖志愿者主导的防御机制，而此类机制在缺乏制度支持的情况下不可持续。