[论文解读] The Effect of Extremist Violence on Hateful Speech Online

Alexandra Olteanu, Carlos Castillo+2 more|arXiv (Cornell University)|Apr 16, 2018

Hate Speech and Cyberbullying Detection被引用 20

一句话总结

本研究运用时间序列的因果推断方法，考察极端主义暴力——特别是伊斯兰极端主义和反穆斯林袭击——对推特和Reddit上在线仇恨言论的影响。研究发现，此类事件显著增加了仇恨言论，尤其是暴力鼓动类言论，且在推特上的影响强于Reddit，凸显了现实暴力与网络敌意之间的反馈回路。

ABSTRACT

User-generated content online is shaped by many factors, including endogenous elements such as platform affordances and norms, as well as exogenous elements, in particular significant events. These impact what users say, how they say it, and when they say it. In this paper, we focus on quantifying the impact of violent events on various types of hate speech, from offensive and derogatory to intimidation and explicit calls for violence. We anchor this study in a series of attacks involving Arabs and Muslims as perpetrators or victims, occurring in Western countries, that have been covered extensively by news media. These attacks have fueled intense policy debates around immigration in various fora, including online media, which have been marred by racist prejudice and hateful speech. The focus of our research is to model the effect of the attacks on the volume and type of hateful speech on two social media platforms, Twitter and Reddit. Among other findings, we observe that extremist violence tends to lead to an increase in online hate speech, particularly on messages directly advocating violence. Our research has implications for the way in which hate speech online is monitored and suggests ways in which it could be fought.

研究动机与目标

• 量化极端主义暴力对社交媒体平台上在线仇恨言论的因果影响。
• 分析袭击后不同类型的仇恨言论（如冒犯性、恐吓性、暴力鼓动）的波动情况。
• 比较平台特异性反应，特别是推特与Reddit对外部暴力事件的响应差异。
• 构建仇恨言论的多维分类体系，并开发可扩展的术语词典以实现大规模监测。
• 通过识别现实暴力事件后仇恨言论激增的模式，为政策制定和平台干预提供依据。

提出的方法

• 构建了涵盖1.5亿条以上仇恨言论消息的纵向数据集，覆盖推特和Reddit长达19个月的时间。
• 通过迭代扩展已知术语，创建了多语言仇恨言论术语词典。
• 开发了四维分类体系：目标群体、发言者态度、严重性（含暴力鼓动）、信息框架（如“原因”或“解决方案”框架）。
• 应用时间序列因果推断，将事件后的实际言论模式与假设未发生事件的反事实预测进行比较。
• 利用众包方式对信息严重性和框架进行标注，确保可扩展性与标注质量。
• 聚焦13起具有重大影响的袭击事件，袭击者或受害者涉及阿拉伯人和穆斯林，包括柏林和魁北克城袭击事件。

实验结果

研究问题

• RQ1 极端主义袭击如何影响社交媒体上针对穆斯林的仇恨言论数量与严重性？
• RQ2 伊斯兰极端主义袭击与反穆斯林袭击对推特和Reddit上仇恨言论的影响有何差异？
• RQ3 在线仇恨言论模式在多大程度上反映了现实暴力与网络敌意之间的反馈回路？
• RQ4 在不同类型的袭击后，仇恨言论的框架策略（如呼吁驱逐或战争）有何差异？
• RQ5 平台特有的规范与功能特性如何塑造暴力事件后仇恨言论的表达与传播？

主要发现

• 伊斯兰极端主义恐怖袭击导致Reddit上64.4%的仇恨言论术语和推特上54.4%的术语将问题归因为社会问题的‘原因’框架。
• 在伊斯兰极端主义袭击后，最受影响的推特术语中25.2%和Reddit术语中7.5%采用了‘解决方案’框架，主张禁止或驱逐穆斯林或阿拉伯人。
• 在两个平台上，袭击后暴力鼓动类信息显著增加，其中54.4%的顶级推特术语和64.4%的顶级Reddit术语属于高严重性类别。
• 反穆斯林袭击在Reddit上引发类似程度的仇恨言论增加（64.8%‘原因’框架，13.3%‘解决方案’框架），但在推特上影响较弱（59.6%‘原因’，22.4%‘解决方案’）。
• 两种袭击类型后均出现反仇恨言论的增加，尤其在Reddit上更为明显，表明网络极化存在复杂互动。
• 研究发现，推特平台在暴力鼓动和以解决方案为导向的仇恨言论方面增幅强于Reddit，表明仇恨言论放大存在平台特异性动态。