[論文レビュー] Peer to Peer Hate: Hate Speech Instigators and Their Targets

Mai ElSherief, Shirin Nilizadeh+3 more|arXiv (Cornell University)|Apr 12, 2018

Hate Speech and Cyberbullying Detection被引用数 26

ひとこと要約

本研究は、27,330件の嫌がらせツイートから構成されるキュレート済みデータセットを用いて、Twitter上での嫌がらせ発信者と標的者を比較する初の分析を提示する。プロフィール特性、オンライン可視性、パーソナリティ特徴を検討した結果、発信者はより可視性の高いユーザーを標的にしていることが判明。また、一般ユーザーと比較して、両者とも怒り、疑い深い態度、過剰な感情表現の特徴を示しており、オンライン嫌がらせのダイナミクスを助長する共通の心理的プロファイルが存在する可能性が示唆された。

ABSTRACT

While social media has become an empowering agent to individual voices and freedom of expression, it also facilitates anti-social behaviors including online harassment, cyberbullying, and hate speech. In this paper, we present the first comparative study of hate speech instigators and target users on Twitter. Through a multi-step classification process, we curate a comprehensive hate speech dataset capturing various types of hate. We study the distinctive characteristics of hate instigators and targets in terms of their profile self-presentation, activities, and online visibility. We find that hate instigators target more popular and high profile Twitter users, and that participating in hate speech can result in greater online visibility. We conduct a personality analysis of hate instigators and targets and show that both groups have eccentric personality facets that differ from the general Twitter population. Our results advance the state of the art of understanding online hate speech engagement.

研究の動機と目的

• 嫌がらせ発信者、標的者、一般のTwitterユーザーの間で、プロフィールの自己提示、オンライン可視性、パーソナリティ特徴の違いを調査すること。
• 役割ラベルが付与された公開可能な嫌がらせツイートデータセットの不足に対処するため、ペアツーペアの嫌がらせツイートを包括的にキュレートしたデータセットを構築すること。
• 発信者および標的者のパーソナリティ特徴が一般のTwitterユーザーとどのように異なるか、また、それらの特徴がオンライン可視性やエンゲージメントと相関するかを調査すること。
• Hatebaseから抽出した8つの嫌がらせタイプをカバーする51語の圧縮語彙を用いて、指向的かつ明示的な嫌がらせデータをキュレートする半自動分類手法を開発すること。
• パーソナリティに基づいたモデリングを通じて、嫌がらせ検出、緩和、カウンタースピーチボット設計のための実行可能なインサイトを提供すること。

提案手法

• 27,330件の嫌がらせツイートを収集するためのマルチステップ分類パイプラインを用い、Hatebaseから抽出した8つの嫌がらせタイプをカバーする51語の圧縮語彙に依存した。
• 発信者（HIs）と標的者（HTs）の明確な役割を識別できるようにデータセットをラベル付けし、比較分析を可能にした。
• アカウント年数、承認ステータス、フォロワー数、コンテンツの完全性などのメタデータを通じて、プロフィールの自己提示を分析した。
• フォロワー数、リツイート頻度、リスト登録の有無を用いてオンライン可視性を測定し、活動レベルを制御するための多変量回帰モデルを構築した。
• 心理的プロファイリングフレームワークを用いてパーソナリティ特徴を推定し、怒り、感情の自覚、変化への開放性といった側面において、HIs、HTs、一般ユーザーを比較分析した。
• キーワードフィルタリングと手動による検証を組み合わせた半自動キュレート手法を提案し、高精度な嫌がらせラベル付けを確保した。

実験結果

リサーチクエスチョン

• RQ1 RQ1: 嫌がらせ発信者と標的者のアカウント特性およびオンライン可視性は、互いに異なり、一般のTwitterアカウント所有者と比べてどのように異なるか？
• RQ2 RQ2: 嫌がらせ発信者、標的者、一般のTwitterユーザーの間で、重要なパーソナリティの違いは存在するか？
• RQ3 RQ3: ユーザーの活動レベルを制御した後でも、嫌がらせへの参加とオンライン可視性の間には相関関係があるか？
• RQ4 RQ4: 嫌がらせ発信者と標的者は、一般のTwitterユーザーに見られない特徴的なパーソナリティ特徴を共有しているか？
• RQ5 RQ5: パーソナリティに基づく特徴量は、嫌がらせの早期検出や緩和を改善できるか？

主な発見

• 嫌がらせ発信者は、より可視性の高いユーザーを標的にしている。標的者は発信者よりも60%多く、一般ユーザーよりも40%多いverifiedアカウントを保有している。
• 活動レベルを制御した後でも、フォロワー数、リツイート頻度、リスト登録の有無で測定される可視性の高いユーザーは、嫌がらせ標的者である確率が顕著に高い。
• 嫌がらせ発信者および標的者とも、一般のTwitterユーザーと比較して、怒り、疑い深い態度、感情の自覚の低さ、過剰な感情表現のレベルが高い。
• 発信者および標的者の約50%が、変化への開放性の側面で0.53以上を記録しており、カウンタースピーチ介入への受容的反応の可能性が示唆された。
• 発信者はアカウント年数が短い傾向にあり、標的者は長期間にわたりいじめにさらされている可能性を示す、年数の長いアカウントを多く有している。
• 本研究では、発信者と標的者との間で、感情の制御不能や社会的引きこもりといった共通のパーソナリティ特徴を特定した。これは、オフラインいじめ研究の結果とも整合する。