[論文レビュー] Hate begets Hate: A Temporal Study of Hate Speech

Binny Mathew, Anurag Illendula+4 more|arXiv (Cornell University)|Sep 24, 2019

Hate Speech and Cyberbullying Detection参考文献 85被引用数 28

ひとこと要約

本研究は、最小限のコンテンツモデレーションが行われるソーシャルメディアプラットフォームであるGabにおける、ヘイトスピーチの時間的分析を初めて実施した。月次ネットワークスナップショットとDeGrootモデルを用い、ユーザーごとにヘイト強度スコアを割り当てた。その結果、ヘイトスピーチは着実に増加しており、新規ユーザーは時間の経過とともにより速くヘイトに傾倒し、ヘイトを発信するユーザーがネットワークの中心を占め、一般コミュニティの言語もヘイトユーザーのそれと次第に類似するようになり、ヘイトの自己強化的エコシステムが形成されていることが示された。

ABSTRACT

With the ongoing debate on 'freedom of speech' vs. 'hate speech' there is an urgent need to carefully understand the consequences of the inevitable culmination of the two, i.e., 'freedom of hate speech' over time. An ideal scenario to understand this would be to observe the effects of hate speech in an (almost) unrestricted environment. Hence, we perform the first temporal analysis of hate speech on Gab.com, a social media site with very loose moderation policy. We first generate temporal snapshots of Gab from millions of posts and users. Using these temporal snapshots, we compute an activity vector based on DeGroot model to identify hateful users. The amount of hate speech in Gab is steadily increasing and the new users are becoming hateful at an increased and faster rate. Further, our analysis analysis reveals that the hate users are occupying the prominent positions in the Gab network. Also, the language used by the community as a whole seem to correlate more with that of the hateful users as compared to the non-hateful ones. We discuss how, many crucial design questions in CSCW open up from our work.

研究の動機と目的

• 最小限のコンテンツモデレーションが行われる環境におけるヘイトスピーチの長期的進化を、Gabを事例として調査すること。
• オンラインコミュニティにおいて、ヘイトスピーチがどのように拡散し、時間の経過とともにどのように一般化するかを理解すること。
• ヘイトを発信するユーザーが、一般コミュニティの言語的・ネットワーク的構造に与える影響を分析すること。
• CSCWシステムにおけるヘイトスピーチの時間的増加を緩和するためのプラットフォーム設計およびガバナンスに与える示唆を明らかにすること。

提案手法

• 約2100万件の投稿からなるデータセットを用い、1か月ごとのGabのソーシャルネットワークの時間的スナップショットを構築した。
• DeGroot信頼モデルを適用し、ユーザーの相互作用とコンテンツに基づいてヘイト強度スコアを計算した。
• DeGrootモデルの収束ダイナミクスを用いて、ユーザーを低・中・高のヘイト強度グループに分類した。
• 時間経過に伴うヘイトを発信するユーザーと非ヘイトユーザーの言語使用を比較するための言語的分析を実施した。
• ヘイトユーザーのネットワーク内における構造的中心性を評価するためにコア・パーサー分析を実施した。
• 外部要因の影響を評価するため、イベントベース分析（例：Unite the Right集会、Twitterのアカウント削除）を実施した。

実験結果

リサーチクエスチョン

• RQ1 Gabにおけるヘイトスピーチの量と強度は、時間の経過とともにどのように変化するか？
• RQ2 新規ユーザーのヘイトスピーチ行動は、初期の参加者と比較して、時間の経過とともにどのように変化するか？
• RQ3 ヘイトを発信するユーザーは、Gabのソーシャルネットワークにおいて、どの程度中心的な位置を占めているか？
• RQ4 時間の経過とともに、一般コミュニティの言語はヘイトユーザーのそれとどの程度類似するようになるか？
• RQ5 どのような外部イベントが、Gabにおけるヘイトスピーチの増加を引き起こしたり加速させたりするか？

主な発見

• 本研究の2年間の期間にわたり、Gabにおけるヘイトスピーチの総量は着実に増加した。
• 新規ユーザーは、時間の経過とともに、より速いペースでヘイトに傾倒し、高ヘイト強度スコアに達するユーザーの割合が増加した。
• ヘイトスピーチの急増時において、中・高ヘイト強度ユーザーの大部分は、新規ユーザーではなく、既存のユーザーであった。
• ヘイトを発信するユーザーは、非ヘイトユーザーに比べて、ネットワークのコア部に迅速に到達しており、中心的立場を占めていることが判明した。
• 一般Gabコミュニティの言語は、ヘイトユーザーのそれと次第に類似するようになり、ヘイトの言語的一般化が進行していることが示された。
• Unite the Right集会や2017年12月のTwitterアカウント削除といった外部イベントは、ヘイトスピーチの急増と時間的に関連していたが、コアのヘイトユーザーは主に事前に存在していた。