[論文レビュー] A Quantitative Approach to Understanding Online Antisemitism

Savvas Zannettou, Joel Finkelstein+2 more|arXiv (Cornell University)|Sep 5, 2018

Hate Speech and Cyberbullying Detection被引用数 9

ひとこと要約

本稿では、4chanの/pol/およびGabから1億件を超える投稿データを用いて、オンラインにおける反ユダヤ主義の大型で定量的な分析を実施している。word2vecとHawkesプロセスを用いて、反ユダヤ的修辞や「ハッピーマーチャント」ミームの動態を追跡している。主要な政治的出来事の後で反ユダヤ的コンテンツの急増が確認され、/pol/はこのミームを広める上で最も影響力のあるプラットフォームであった。

ABSTRACT

A new wave of growing antisemitism, driven by fringe Web communities, is an increasingly worrying presence in the socio-political realm. The ubiquitous and global nature of the Web has provided tools used by these groups to spread their ideology to the rest of the Internet. Although the study of antisemitism and hate is not new, the scale and rate of change of online data has impacted the efficacy of traditional approaches to measure and understand these troubling trends. In this paper, we present a large-scale, quantitative study of online antisemitism. We collect hundreds of million posts and images from alt-right Web communities like 4chan's Politically Incorrect board (/pol/) and Gab. Using scientifically grounded methods, we quantify the escalation and spread of antisemitic memes and rhetoric across the Web. We find the frequency of antisemitic content greatly increases (in some cases more than doubling) after major political events such as the 2016 US Presidential Election and the "Unite the Right" rally in Charlottesville. We extract semantic embeddings from our corpus of posts and demonstrate how automated techniques can discover and categorize the use of antisemitic terminology. We additionally examine the prevalence and spread of the antisemitic "Happy Merchant" meme, and in particular how these fringe communities influence its propagation to more mainstream communities like Twitter and Reddit. Taken together, our results provide a data-driven, quantitative framework for understanding online antisemitism. Our methods serve as a framework to augment current qualitative efforts by anti-hate groups, providing new insights into the growth and spread of hate online.

研究の動機と目的

• 急速に広がる憎悪コンテンツの状況を踏まえ、オンライン反ユダヤ主義に対する大規模で定量的な測定が不足している現状に対処すること。
• 特に「ハッピーマーチャント」ミームを含む、反ユダヤ的修辞や画像がオンラインコミュニティ内でどのように拡散されるかを理解すること。
• 既存の定性的な反憎悪活動を補完する、データドリブンで透明性の高いフレームワークを提供すること。
• 境界付近のコミュニティが、主流のプラットフォームにおいて反ユダヤ的コンテンツをどのように広めているかを定量化すること。

提案手法

• 2016年7月から2018年1月の間、4chanの/pol/およびGabから1億件を超えるテキスト投稿を収集した。
• テキストデータに対して連続的bag-of-words型word2vecモデルを訓練し、反ユダヤ的用語や意味的クラスタを同定・分類した。
• 画像処理パイプラインを適用して、「ハッピーマーチャント」ミームの検出と、約700万枚の画像における出現頻度を定量化した。
• Hawkes点過程を用いて、異なるオンラインコミュニティが「ハッピーマーチャント」ミームを広める際の相対的影響力をモデル化・推定した。
• 語彙埋め込みと文脈的使用を分析することで、スラング、陰謀論、宗教的憎悪を含む反ユダヤ的言語パターンを識別するためのモデルを訓練した。
• 反ユダヤ的コンテンツの増加を、2016年米国大統領選挙やシャーロットヴィル集会といった現実世界の政治的出来事と相関させた。

実験結果

リサーチクエスチョン

• RQ1 RQ1: オンライン反ユダヤ主義は増加傾向にあり、その傾向はいかがですか？
• RQ2 RQ2: オンライン反ユダヤ主義はどのように表現されており、新たに出現する反ユダヤ的言語を自動的に同定・分類することは可能でしょうか？
• RQ3 RQ3: 境界付近のコミュニティは、反ユダヤ的プロパガンダを広める観点から、ウェブ全体にどの程度の影響を与えているでしょうか？

主な発見

• 2016年米国大統領選挙およびシャーロットヴィルの「ユニット・ザ・ライト」集会の後、反ユダヤ的コンテンツの頻度、特に「jew」という語の使用頻度が2倍以上に増加した。
• word2vec分析により、民族的スラング、ナショナリスティックな修辞、聖書的物語に基づく宗教的憎悪を含む、明確な反ユダヤ的言語の意味的クラスタが同定された。
• 「ハッピーマーチャント」ミームは/pol/およびGabの両方で顕著に広がっており、主要な政治的出来事の後で使用頻度が著しく上昇した。
• /pol/は、共有コンテンツの量が多かったため、このミームをコミュニティ全体に広める上で最も影響力のあるプラットフォームであった。
• RedditのThe_Donaldは、全体の投稿量に比べて低いにもかかわらず、他のコミュニティへのミーム拡散において最も効率的であることが判明した。
• 本研究における「ハッピーマーチャント」ミームの定量化は保守的であり、多くの変種が親ミームに統合されたため、実際の出現頻度はさらに高い可能性がある。