[论文解读] Auditing Elon Musk's Impact on Hate Speech and Bots

Daniel Hickey, Matheus Schmitz+4 more|arXiv (Cornell University)|Apr 9, 2023

Hate Speech and Cyberbullying Detection参考文献 18被引用 8

一句话总结

研究分析了Elon Musk在2022年收购前后Twitter的情况，发现仇恨言论和机器人活动增加，控制组中的伪造草根机器人下降。

ABSTRACT

On October 27th, 2022, Elon Musk purchased Twitter, becoming its new CEO and firing many top executives in the process. Musk listed fewer restrictions on content moderation and removal of spam bots among his goals for the platform. Given findings of prior research on moderation and hate speech in online communities, the promise of less strict content moderation poses the concern that hate will rise on Twitter. We examine the levels of hate speech and prevalence of bots before and after Musk's acquisition of the platform. We find that hate speech rose dramatically upon Musk purchasing Twitter and the prevalence of most types of bots increased, while the prevalence of astroturf bots decreased.

研究动机与目标

• 评估在Musk收购后，Twitter上的仇恨言论是否上升。
• 评估收购后Twitter上的机器人普遍性是否发生变化。
• 估计仇恨言论和机器人变化在不同方法学阈值下的鲁棒性。
• 讨论对平台治理和政策的潜在影响。

提出的方法

• 从Reddit基础的仇恨词汇表中识别仇恨言论关键词并在Twitter数据上验证。
• 提取包含仇恨关键词的推文并使用Google的Perspective API过滤毒性。
• 抽样基线推文流以比较总体活动水平。
• 对发布仇恨推文的账户计算Botometer分数以评估机器人可能性。
• 使用Mann-Whitney U检验比较收购前后机器人分布。
• 承认局限性并避免将特定政策变化与观测效应之间的因果关系。

Figure 1: Hateful users increased their hate speech after Musk bought Twitter. Proportion of hate words in hateful users’ tweets over time before and after the purchase. The inset plot represents the average daily hate speech before and after the takeover. Black lines in inset plot represent standar

实验结果

研究问题

• RQ1 在Musk接管后，Twitter上的仇恨言论的普遍性是否增加？
• RQ2 接管后Twitter上机器人普遍性或特征是否发生变化？
• RQ3 观察到的变化是否对不同的毒性和Explicit-content阈值鲁棒？
• RQ4 这些变化对Twitter治理和用户安全有哪些潜在影响？

主要发现

• 在Musk购买后，仇恨用户的仇恨言论增加，日平均仇恨言论所占比例上升，购买后水平超出购买前的最大值。
• 相对于稳定的基线，2022年的仇恨推文总体量显著上升，在初始峰值后仍维持在较高水平。
• 发布仇恨推文的账户的Botometer分数在若干类别（垃圾邮件、假关注者）上提高，而控制账户的Astroturf分数下降。
• 观测到的变化并非被证明的因果关系，可能受人手减少和反机器人政策变化等因素影响，但与对较宽松治理的担忧一致。

Figure 2: Overall hate speech on Twitter increased after Elon Musk bought the platform. Number of hateful tweets sampled during each week in 2022, compared to a baseline of tweets collected during the same time period. The spike in March, 2022 coincides with the Canada convoy protests.