[论文解读] A Quantitative Approach to Understanding Online Antisemitism

Savvas Zannettou, Joel Finkelstein+2 more|arXiv (Cornell University)|Sep 5, 2018

Hate Speech and Cyberbullying Detection被引用 9

一句话总结

本文利用来自 4chan 的 /pol/ 和 Gab 的 1000 万条以上帖子的数据，对在线反犹主义进行了大规模、定量的分析，采用 word2vec 和 Hawkes 过程追踪反犹主义修辞和“快乐商人”表情包的传播。研究发现，在重大政治事件之后，反犹主义内容出现显著激增，其中 /pol/ 是传播该表情包最具影响力的平台。

ABSTRACT

A new wave of growing antisemitism, driven by fringe Web communities, is an increasingly worrying presence in the socio-political realm. The ubiquitous and global nature of the Web has provided tools used by these groups to spread their ideology to the rest of the Internet. Although the study of antisemitism and hate is not new, the scale and rate of change of online data has impacted the efficacy of traditional approaches to measure and understand these troubling trends. In this paper, we present a large-scale, quantitative study of online antisemitism. We collect hundreds of million posts and images from alt-right Web communities like 4chan's Politically Incorrect board (/pol/) and Gab. Using scientifically grounded methods, we quantify the escalation and spread of antisemitic memes and rhetoric across the Web. We find the frequency of antisemitic content greatly increases (in some cases more than doubling) after major political events such as the 2016 US Presidential Election and the "Unite the Right" rally in Charlottesville. We extract semantic embeddings from our corpus of posts and demonstrate how automated techniques can discover and categorize the use of antisemitic terminology. We additionally examine the prevalence and spread of the antisemitic "Happy Merchant" meme, and in particular how these fringe communities influence its propagation to more mainstream communities like Twitter and Reddit. Taken together, our results provide a data-driven, quantitative framework for understanding online antisemitism. Our methods serve as a framework to augment current qualitative efforts by anti-hate groups, providing new insights into the growth and spread of hate online.

研究动机与目标

• 为应对仇恨内容迅速传播的背景下，弥补在线反犹主义大规模、定量测量的不足。
• 理解反犹主义修辞和图像（尤其是“快乐商人”表情包）在在线社区中的传播方式。
• 提供一种数据驱动、透明的框架，以补充现有的定性反仇恨努力。
• 量化边缘社区对主流平台上传播反犹主义内容的影响。

提出的方法

• 在 2016 年 7 月至 2018 年 1 月期间，收集了来自 4chan 的 /pol/ 和 Gab 的超过 1000 万条文本帖子。
• 在文本数据上训练连续袋-模型 word2vec，以发现并分类反犹主义术语和语义聚类。
• 应用图像处理流程，检测并量化近 700 万张图像中“快乐商人”表情包的出现频率。
• 使用 Hawkes 点过程对不同在线社区在传播“快乐商人”表情包中的相对影响力进行建模和估计。
• 通过分析词嵌入和上下文用法，训练模型以识别反犹主义语言模式，包括侮辱性用语、阴谋论和基于宗教的仇恨。
• 将反犹主义内容的激增与现实世界的政治事件（如 2016 年美国总统大选和夏洛茨维尔“团结右翼”集会）相关联。

实验结果

研究问题

• RQ1 RQ1：在线反犹主义是否有所上升？如果是，其趋势如何？
• RQ2 RQ2：在线反犹主义如何表达？我们如何自动发现并分类新出现的反犹主义语言？
• RQ3 RQ3：边缘社区在多大程度上影响了网络其他部分传播反犹主义宣传？

主要发现

• 在 2016 年美国总统大选和夏洛茨维尔“团结右翼”集会之后，包括“jew”一词在内的反犹主义内容频率翻倍以上。
• word2vec 分析揭示了反犹主义语言的显著语义聚类，包括种族侮辱、民族主义修辞以及根植于《圣经》叙事的宗教仇恨。
• “快乐商人”表情包在 /pol/ 和 Gab 上均高度流行，且在重大政治事件后使用量显著增加。
• /pol/ 被确定为在跨社区传播“快乐商人”表情包方面最具影响力的平台，因其内容分享量极高。
• 尽管整体内容量较低，Reddit 上的 The_Donald 被发现是向其他社区传播该表情包效率最高的平台。
• 本研究对“快乐商人”表情包的量化结果是保守的，因为许多变体被归入主表情包类别，表明实际流行度可能更高。