[論文レビュー] The Virality of Hate Speech on Social Media

Abdurahman Maarouf, Nicolas Pröllochs+1 more|arXiv (Cornell University)|Oct 25, 2022

Hate Speech and Cyberbullying Detection被引用数 4

ひとこと要約

本研究では、X（旧ツイッター）における嫌悪発言の拡散性を、25,219件のリツイートカスケードのデータセットを用いて調査し、一般化線形モデルを適用して、発信者およびコンテンツレベルの要因が嫌悪的コンテンツと通常のコンテンツの拡散に与える影響を同定した。その結果、公式認証を受けたユーザーが発信する嫌悪発言は、カスケードサイズにおいて3.5倍、寿命において3.2倍、構造的拡散性において1.2倍高いことが判明し、公式認証ステータスが嫌悪発言の拡散を著しく拡大していることが浮き彫りになった。

ABSTRACT

Online hate speech is responsible for violent attacks such as, e.g., the Pittsburgh synagogue shooting in 2018, thereby posing a significant threat to vulnerable groups and society in general. However, little is known about what makes hate speech on social media go viral. In this paper, we collect N = 25,219 cascades with 65,946 retweets from X (formerly known as Twitter) and classify them as hateful vs. normal. Using a generalized linear regression, we then estimate differences in the spread of hateful vs. normal content based on author and content variables. We thereby identify important determinants that explain differences in the spreading of hateful vs. normal content. For example, hateful content authored by verified users is disproportionally more likely to go viral than hateful content from non-verified ones: hateful content from a verified user (as opposed to normal content) has a 3.5 times larger cascade size, a 3.2 times longer cascade lifetime, and a 1.2 times larger structural virality. Altogether, we offer novel insights into the virality of hate speech on social media.

研究の動機と目的

• ソーシャルメディア、特にX（ツイッター）における嫌悪発言の拡散性の背後要因を理解すること。
• 嫌悪的コンテンツと通常のコンテンツの拡散を分ける発信者およびコンテンツの特徴を同定すること。
• 従来の研究がユーザー単位のダイナミクスに限定していたのに対し、コンテンツレベルにおける拡散性の理解のギャップを埋めること。
• 構造的特徴が高感染性の嫌悪発言カスケードを示すメカニズムを特定することで、検出および政策立案に貢献すること。

提案手法

• X（ツイッター）から25,219件のリツイートカスケード（ルートツイートおよびすべてのリツイート）を収集し、人間によるラベル付けを施した嫌悪発言のラベルを含んだ。
• 発信者レベルの特徴を抽出：フォロワー数、フォロー数、公式認証ステータス、ツイート投稿数、アカウント作成からの期間。
• コンテンツレベルの特徴を抽出：メディアの有無、ハッシュタグの有無、メンションの有無、およびツイート長。
• 3つの結果変数を定義：カスケードサイズ（リツイート総数）、カスケード寿命（リツイートの継続期間）、構造的拡散性（急激な拡散の度合いを測る指標）。
• 一般化線形モデル（GLMs）を用いて、発信者およびコンテンツの特徴が3つの拡散指標に与える影響を推定した。
• 統計的モデリングを用いて、公式認証ステータスその他の特徴が、嫌悪的コンテンツと通常のコンテンツの相対的拡散に与える影響を分離した。

実験結果

リサーチクエスチョン

• RQ1 Xにおける嫌悪的コンテンツと通常のコンテンツの拡散ダイナミクスの差を説明する主な要因は何ですか？
• RQ2 公式認証ステータスは、通常のコンテンツと比較して、嫌悪発言の拡散性にどのように影響しますか？
• RQ3 メンション、ハッシュタグ、メディアの有無といったコンテンツレベルの特徴は、嫌悪発言の拡散にどのように影響しますか？
• RQ4 リツイートカスケードの構造的特性（例：サイズ、寿命、構造的拡散性）は、嫌悪的コンテンツと通常のコンテンツでどの程度異なるでしょうか？

主な発見

• 公式認証ユーザーが発信する嫌悪的コンテンツのカスケードサイズは、公式認証ユーザーが発信する通常のコンテンツの3.5倍大きい。
• 公式認証ユーザーが発信する嫌悪的コンテンツのカスケード寿命は、公式認証ユーザーが発信する通常のコンテンツの3.2倍長い。
• 公式認証ユーザーが発信する嫌悪的コンテンツの構造的拡散性は、公式認証ユーザーが発信する通常のコンテンツの1.2倍高い。
• メンションやハッシュタグの存在は、嫌悪発言の拡散を抑制する傾向にあり、これは標的型嫌悪が一般化された嫌悪よりも拡散性が低い可能性を示唆している。
• 嫌悪発言は通常のコンテンツよりも感染力が強く、顕著に大きなカスケードサイズ、長い寿命、高い構造的拡散性を示している。
• ウイルス性のある嫌悪発言においてハッシュタグやメンションが欠落していることは、従来のNLPベースの検出手法に課題を提示しており、カスケードレベルの特徴が識別に有効である可能性を示唆している。