[論文レビュー] Measuring #GamerGate: A Tale of Hate, Sexism, and Bullying

Despoina Chatzakou, Nicolas Kourtellis+4 more|arXiv (Cornell University)|Feb 24, 2017

Hate Speech and Cyberbullying Detection参考文献 15被引用数 10

ひとこと要約

本研究は、2014年8月から2015年初頭にかけての160万件のツイート（34万件のユーザー）から成るデータセットを用いて、Twitter上でのゲイマーゲート論争を測定し、感情分析および嫌がらせ分析を適用してゲイマーゲート参加者とランダムなTwitterユーザーを比較した。その結果、ゲイマーゲート参加者はより高い関与度、より否定的な感情、より低い喜びを示しているが、怒りが著しく高いわけではなく、ベースラインユーザーと比較して著しく低いレートでアカウント停止を受けていた。これは、一貫したオンラインいじめの検出および是正におけるシステム的課題を浮き彫りにしている。

ABSTRACT

Over the past few years, online aggression and abusive behaviors have occurred in many different forms and on a variety of platforms. In extreme cases, these incidents have evolved into hate, discrimination, and bullying, and even materialized into real-world threats and attacks against individuals or groups. In this paper, we study the Gamergate controversy. Started in August 2014 in the online gaming world, it quickly spread across various social networking platforms, ultimately leading to many incidents of cyberbullying and cyberaggression. We focus on Twitter, presenting a measurement study of a dataset of 340k unique users and 1.6M tweets to study the properties of these users, the content they post, and how they differ from random Twitter users. We find that users involved in this "Twitter war" tend to have more friends and followers, are generally more engaged and post tweets with negative sentiment, less joy, and more hate than random users. We also perform preliminary measurements on how the Twitter suspension mechanism deals with such abusive behaviors. While we focus on Gamergate, our methodology to collect and analyze tweets related to aggressive and bullying activities is of independent interest.

研究の動機と目的

• ゲイマーゲート論争を、Twitter上での一貫したオンラインいじめの事例として定量的に分析すること。
• ゲイマーゲートユーザーとランダムなTwitterユーザーの行動的・言語的パターンを比較し、特徴的な差を同定すること。
• Twitterのアカウント停止メカニズムが、この論争期におけるいじめ行動に対し、どの程度効果的であったかを評価すること。
• ソーシャルメディアプラットフォーム上で攻撃的かついじめの内容を検出・分析するための汎用的手法を構築すること。

提案手法

• TwitterのAPIとキーワードベースのフィルタリングを用いて、2014年8月から2015年初頭にかけてのゲイマーゲートを議論する160万件のツイート（34万件のユニークユーザー）を収集した。
• ツイートの内容と関与度のパターンに基づき、ユーザーをゲイマーゲート（GG）グループとベースライン（ランダム）グループに分類した。
• 6感情モデル（怒り、嫌悪、恐怖、喜び、悲しみ、驚き）を用いた感情分析を適用し、ツイートの感情的トーンを評価した。
• Hatebase APIを用いて嫌がらせを測定し、語句を0〜100のスケールで攻撃性の度合いにスコア化し、ユーザーごとの平均スコアを算出した。
• アカウントのステータス（アクティブ、削除、停止）を分析し、GGユーザーとベースラインユーザーの間でのアカウント停止率を比較した。
• 2標本Kolmogorov-Smirnov（KS）検定を用いて、GGユーザーとベースラインユーザーの感情スコア分布を比較した。

実験結果

リサーチクエスチョン

• RQ1 ゲイマーゲートユーザーの行動パターンは、ランダムなTwitterユーザーと比較して、関与度、ネットワークサイズ、感情的傾向においてどのように異なるか？
• RQ2 ゲイマーゲートのツイートの感情的トーンは、特に怒りと喜びの観点で、ベースラインコンテンツと比べてどうか？
• RQ3 ゲイマーゲートユーザーはランダムユーザーと比較して、どの程度Twitterによってアカウント停止されているのか？これはプラットフォームのモデレーション効果性に何を示唆するか？
• RQ4 ゲイマーゲートユーザーとベースラインユーザーの間で、嫌がらせや攻撃的言語の使用にどのような差があるか？

主な発見

• ゲイマーゲートユーザーは、より高い関与度を示しており、友達やフォロワーの数が多く、ツイートの数もランダムなTwitterユーザーよりも多い。
• ゲイマーゲートユーザーは否定的な感情が強く（25％の否定的発言 vs. ベースラインの15％）、喜びのレベルが低いが、怒りの度合いに著しい差は認められない。
• Hatebaseにおける平均嫌がらせスコアは、ゲイマーゲートユーザーで0.25、ベースラインユーザーで0.06であり、統計的に有意な差（p < 0.01）が認められた。
• ゲイマーゲートユーザーのアカウント停止率は9％であるのに対し、ベースラインユーザーは20％であり、Twitterによる検出・執行が顕著に低いことが示された。
• 高い関与度と攻撃的コンテンツにもかかわらず、ゲイマーゲートユーザーはアカウント停止されにくく、これは現在のプラットフォームモデレーションシステムの限界を示唆している。
• 本研究は、ゲイマーゲートユーザーが特に怒りが強いという仮定とは対照的に、喜びの低下が最も顕著な特徴であることを示した。これは、オンラインいじめにおける激しい感情表現の仮定に疑問を呈するものである。