[論文レビュー] The Effect of Extremist Violence on Hateful Speech Online

Alexandra Olteanu, Carlos Castillo+2 more|arXiv (Cornell University)|Apr 16, 2018

Hate Speech and Cyberbullying Detection被引用数 20

ひとこと要約

本研究では、時系列データを用いた因果推論を用いて、特にイスラム主義的・イスラム嫌悪的攻撃を含む極端な暴力が、TwitterおよびRedditにおけるオンラインの憎悪発言に与える影響を検討した。その結果、こうした出来事は憎悪発言、特に暴力的擁護を顕著に増加させ、特にTwitterにおいてRedditよりも強い影響を示した。これは、現実世界の暴力とオンラインの敵意の間でフィードバックループが形成されていることを示している。

ABSTRACT

User-generated content online is shaped by many factors, including endogenous elements such as platform affordances and norms, as well as exogenous elements, in particular significant events. These impact what users say, how they say it, and when they say it. In this paper, we focus on quantifying the impact of violent events on various types of hate speech, from offensive and derogatory to intimidation and explicit calls for violence. We anchor this study in a series of attacks involving Arabs and Muslims as perpetrators or victims, occurring in Western countries, that have been covered extensively by news media. These attacks have fueled intense policy debates around immigration in various fora, including online media, which have been marred by racist prejudice and hateful speech. The focus of our research is to model the effect of the attacks on the volume and type of hateful speech on two social media platforms, Twitter and Reddit. Among other findings, we observe that extremist violence tends to lead to an increase in online hate speech, particularly on messages directly advocating violence. Our research has implications for the way in which hate speech online is monitored and suggests ways in which it could be fought.

研究の動機と目的

• SNSプラットフォーム全体における極端な暴力の因果的影響を、オンラインの憎悪発言に対して定量的に評価すること。
• 主な攻撃の後、発言の種類ごとに変動する憎悪発言の種別（攻撃的、脅し、暴力的擁護など）を分析すること。
• 外部の暴力的出来事に対する反応として、特にTwitterとRedditのプラットフォーム間で異なる反応を比較すること。
• 憎悪発言の多次元的分類法と大規模監視に適したスケーラブルな語彙を構築すること。
• 現実世界の暴力の後、憎悪発言の急増パターンを特定することで、政策立案およびプラットフォームの介入を支援すること。

提案手法

• 19か月間にわたり、TwitterおよびRedditから1億5000万件を超える憎悪発言メッセージの縦断的データセットを構築した。
• 既知の用語の反復的拡張により、多言語対応の憎悪発言用語の語彙を構築した。
• 4次元の分類法を考案：標的対象集団、発言者の態度、深刻度（暴力的擁護を含む）、メッセージのフレーミング（例：「原因」としてのフレーミングや「解決策」としてのフレーミング）。
• 時系列データに対する因果推論を適用し、出来事の発生がなかった場合の予測と比較することで、出来事後の発言パターンを分析した。
• スケーラビリティとアノテーション品質を確保するため、クラウドソーシングを活用して発言の深刻度とフレーミングをアノテートした。
• アラブ人・ムスリムが加害者または被害者である13件の高インパクト攻撃（ベルリン攻撃、ケベックシティ攻撃など）を対象にした。

実験結果

リサーチクエスチョン

• RQ1 極端な攻撃は、SNS上でムスリムを標的にした憎悪発言の量と深刻度にどのように影響を与えるか？
• RQ2 イスラム主義的攻撃とイスラム嫌悪的攻撃の両方が、TwitterおよびRedditにおける憎悪発言に差異をもたらすか？
• RQ3 オンラインの憎悪発言のパターンは、現実世界の暴力とオンラインの敵意の間でフィードバックループを反映しているか？
• RQ4 さまざまなタイプの攻撃の後、憎悪発言のフレーミング戦略（例：強制送還の呼びかけや戦争の主張）はどのように異なるか？
• RQ5 プラットフォーム固有の規範と機能的特徴（アフォーダンス）は、暴力的出来事の後、憎悪発言の表現と拡散にどのように影響を与えるか？

主な発見

• イスラム主義的テロ攻撃後、Redditでは64.4%、Twitterでは54.4%の憎悪発言用語が、社会的問題の「原因」としてのフレーミングをとった。
• イスラム主義的攻撃後、最も影響を受けるTwitter用語の25.2%、Reddit用語の7.5%が「解決策」としてのフレーミングであり、ムスリムやアラブ系の入国禁止や強制送還を主張していた。
• イスラム主義的攻撃後、両プラットフォームで暴力的擁護発言が顕著に増加した。Twitterでは上位の用語の54.4%、Redditでは64.4%が深刻度の高いカテゴリーに分類された。
• イスラム嫌悪的攻撃は、Redditで同様の増加を引き起こした（「原因」としてのフレーミング64.8%、解決策として6.3%）、が、Twitterではやや弱い影響にとどまった（「原因」59.6%、解決策22.4%）。
• 両方の攻撃後、反憎悪発言（counter-hate speech）が増加し、特にRedditで顕著だった。これは、オンラインでの極端化の複雑な相互作用を示している。
• 本研究では、TwitterがRedditよりも暴力的擁護や解決指向の憎悪発言の増加を強く示した。これは、憎悪発言の拡大においてプラットフォーム固有のダイナミクスが存在することを示している。