[论文解读] The Virality of Hate Speech on Social Media

Abdurahman Maarouf, Nicolas Pröllochs+1 more|arXiv (Cornell University)|Oct 25, 2022

Hate Speech and Cyberbullying Detection被引用 4

一句话总结

本研究利用包含25,219条转发级联的数据库，调查了X（前身为Twitter）平台上仇恨言论的病毒式传播现象，采用广义线性模型识别驱动仇恨内容与普通内容传播的作者层面和内容层面因素。研究发现，经验证用户发布的仇恨言论在级联规模上比普通内容的传播概率高出3.5倍，在生命周期上长3.2倍，结构性病毒性高出1.2倍，凸显了经验证身份在放大仇恨言论传播中的显著作用。

ABSTRACT

Online hate speech is responsible for violent attacks such as, e.g., the Pittsburgh synagogue shooting in 2018, thereby posing a significant threat to vulnerable groups and society in general. However, little is known about what makes hate speech on social media go viral. In this paper, we collect N = 25,219 cascades with 65,946 retweets from X (formerly known as Twitter) and classify them as hateful vs. normal. Using a generalized linear regression, we then estimate differences in the spread of hateful vs. normal content based on author and content variables. We thereby identify important determinants that explain differences in the spreading of hateful vs. normal content. For example, hateful content authored by verified users is disproportionally more likely to go viral than hateful content from non-verified ones: hateful content from a verified user (as opposed to normal content) has a 3.5 times larger cascade size, a 3.2 times longer cascade lifetime, and a 1.2 times larger structural virality. Altogether, we offer novel insights into the virality of hate speech on social media.

研究动机与目标

• 理解社交媒体平台上仇恨言论病毒式传播的驱动因素，尤其聚焦于X（Twitter）平台。
• 识别作者与内容特征，以区分仇恨内容与普通内容的传播差异。
• 弥补现有研究仅关注用户层面动态而忽视内容层面病毒性理解的空白。
• 通过识别高传染性仇恨言论级联的结构性特征，为检测策略与政策制定提供依据。

提出的方法

• 从X（Twitter）平台收集了25,219条转发级联，包含原始推文及所有转发内容，并附有人工标注的仇恨言论标签。
• 提取作者层面特征：关注者数量、关注对象数量、经验证状态、发推数量及账号年龄。
• 提取内容层面特征：是否包含媒体、话题标签、提及用户及推文长度。
• 定义三个结果变量：级联规模（总转发数）、级联生命周期（转发持续时间）和结构性病毒性（爆发式传播的度量）。
• 应用广义线性模型（GLMs）评估作者与内容特征对三种传播指标的影响。
• 通过统计建模分离经验证状态及其他特征对仇恨内容与普通内容相对传播效果的影响。

实验结果

研究问题

• RQ1 哪些关键决定因素能够解释X平台上仇恨内容与普通内容传播动态的差异？
• RQ2 与普通内容相比，经验证状态在多大程度上影响仇恨言论的病毒式传播？
• RQ3 内容层面特征（如提及、话题标签和媒体存在）如何影响仇恨言论的传播？
• RQ4 仇恨内容与普通内容在转发级联的结构性属性（如规模、生命周期、结构性病毒性）方面存在多大程度的差异？

主要发现

• 经验证用户发布的仇恨内容，其级联规模比经验证用户发布的普通内容高出3.5倍。
• 经验证用户发布的仇恨内容，其级联生命周期比经验证用户发布的普通内容长3.2倍。
• 经验证用户发布的仇恨内容，其结构性病毒性比经验证用户发布的普通内容高1.2倍。
• 提及与话题标签的存在与仇恨言论传播减少相关，表明针对性仇恨可能不如泛化仇恨更具病毒性。
• 仇恨言论比普通内容更具传染性，表现为更大的级联规模、更长的生命周期以及更高的结构性病毒性。
• 病毒式传播的仇恨言论中缺乏话题标签与提及，对基于NLP的传统检测方法构成挑战，提示级联层面特征可能在识别中更为有效。