[论文解读] Trajectories of Islamophobic hate amongst far right actors on Twitter.

Bertie Vidgen, Taha Yasseri+1 more|arXiv (Cornell University)|Oct 13, 2019

Hate Speech and Cyberbullying Detection参考文献 35被引用 7

一句话总结

本研究通过结合伊斯兰恐惧症分类器与潜在马尔可夫建模及k-modes聚类的多阶段方法，分析了五百万条英国国家党支持者在Twitter上的推文，识别出七种不同类型的伊斯兰恐惧症仇恨言论轨迹。研究结果揭示了显性和隐性伊斯兰恐惧症随时间演变的细微模式，为极右翼在线极端主义提供了细致入微的洞察，并为在线仇恨言论的政策应对提供了依据。

ABSTRACT

Far right actors use the Internet for myriad purposes, such as forming communities, sharing information and attracting support. Concerns have been raised about their use of social media to spread hateful messages by both academics and policymakers. Given the potentially dangerous effects of hate speech, which can inflict harm on targeted victims, create a sense of fear amongst communities and pollute civic discourse, there is a pressing need to understand at a granular level how it manifests amongst far right actors online. In this paper we investigate the dynamics of Islamophobia amongst followers of a far right political party on Twitter, the British National Party. Using a new dataset of five million tweets, collected over a period of one year, we identify seven distinct trajectories of Islamophobia, which capture qualitative, qualitative and temporal differences in users' behaviour. We analyse the data using a classifier for Islamophobic content, which distinguishes between None, Implicit and Explicit Islamophobia, and latent Markov modelling with k modes clustering. The findings provide a new level of granular insight into Islamophobic behaviour amongst the far right on social media, both deepening existing knowledge and informing policy discussions regarding far right extremism and online hate speech.

研究动机与目标

• 理解极右翼社交媒体用户中伊斯兰恐惧症的动态表现形式。
• 研究与英国国家党相关的在线社群中仇恨言论随时间的演变过程。
• 利用数据驱动建模识别伊斯兰恐惧症内容表达中的不同行为模式。
• 通过提供关于极右翼极端主义的细致、基于证据的洞察，支持在线仇恨言论的政策讨论。

提出的方法

• 训练了一个自定义分类器，将推文分为三类：无、隐性、显性伊斯兰恐惧症。
• 应用潜在马尔可夫建模，以模拟用户在时间维度上伊斯兰恐惧症内容的状态转移。
• 使用k-modes聚类，根据用户在马尔可夫模型中的行为轨迹对用户进行分组。
• 分析基于一年内从Twitter上英国国家党支持者中收集的五百万条推文数据集。
• 该方法结合了自然语言处理技术与统计建模，以捕捉仇恨言论的定性、定量及时间维度特征。

实验结果

研究问题

• RQ1 极右翼Twitter用户产生的伊斯兰恐惧症内容具有哪些不同的时间模式？
• RQ2 在在线社群中，隐性和显性形式的伊斯兰恐惧症如何共现并随时间演变？
• RQ3 基于其伊斯兰恐惧症内容生产模式，用户中可识别出哪些行为聚类？
• RQ4 伊斯兰恐惧症言论的轨迹在强度、频率和内容类型上如何不同？

主要发现

• 在英国国家党Twitter支持者中识别出七种不同的伊斯兰恐惧症行为轨迹。
• 这些轨迹揭示了隐性和显性伊斯兰恐惧症在时间维度上的显著差异。
• 用户在不同层次的伊斯兰恐惧症内容之间表现出动态转换，表明其对仇恨言论的参与程度在不断演变。
• 本研究表明，伊斯兰恐惧症内容并非静态，而是在用户群体中呈现出复杂且重复出现的模式。