[论文解读] Measuring #GamerGate: A Tale of Hate, Sexism, and Bullying

Despoina Chatzakou, Nicolas Kourtellis+4 more|arXiv (Cornell University)|Feb 24, 2017

Hate Speech and Cyberbullying Detection参考文献 15被引用 10

一句话总结

本研究利用来自340,000名用户的160万条推文数据集，通过情感分析与仇恨言论分析，测量了Twitter上Gamergate争议的状况，比较了Gamergate参与者与普通Twitter用户的行为特征。研究发现，Gamergate用户表现出更高的参与度、更强烈的负面情绪，以及更低的喜悦感——尽管其愤怒情绪并未显著升高——同时被封禁的比例远低于基准用户，凸显了在识别和遏制有组织的网络骚扰方面存在的系统性挑战。

ABSTRACT

Over the past few years, online aggression and abusive behaviors have occurred in many different forms and on a variety of platforms. In extreme cases, these incidents have evolved into hate, discrimination, and bullying, and even materialized into real-world threats and attacks against individuals or groups. In this paper, we study the Gamergate controversy. Started in August 2014 in the online gaming world, it quickly spread across various social networking platforms, ultimately leading to many incidents of cyberbullying and cyberaggression. We focus on Twitter, presenting a measurement study of a dataset of 340k unique users and 1.6M tweets to study the properties of these users, the content they post, and how they differ from random Twitter users. We find that users involved in this "Twitter war" tend to have more friends and followers, are generally more engaged and post tweets with negative sentiment, less joy, and more hate than random users. We also perform preliminary measurements on how the Twitter suspension mechanism deals with such abusive behaviors. While we focus on Gamergate, our methodology to collect and analyze tweets related to aggressive and bullying activities is of independent interest.

研究动机与目标

• 定量分析Gamergate争议作为Twitter上一种有组织网络骚扰的典型案例。
• 比较Gamergate用户与普通Twitter用户在行为与语言模式上的差异，以识别其显著特征。
• 评估Twitter在争议期间对滥用行为的封禁机制的有效性。
• 开发一种可推广的方法论，用于检测和分析社交媒体平台上的攻击性与欺凌内容。

提出的方法

• 通过Twitter API与基于关键词的过滤方法，收集了2014年8月至2015年初期间，涉及Gamergate的160万条推文，覆盖340,000名独立用户。
• 根据推文内容与互动模式，将用户划分为Gamergate（GG）组与基准（随机）组。
• 采用六种情绪模型（愤怒、厌恶、恐惧、喜悦、悲伤、惊讶）进行情感分析，评估推文的情绪基调。
• 利用Hatebase API测量仇恨言论，将词汇在0–100的尺度上评分以衡量冒犯性程度，并计算各用户组的平均得分。
• 分析用户账户状态（活跃、删除、封禁），比较GG组与基准组的封禁率。
• 使用两样本Kolmogorov-Smirnov（KS）检验，比较GG组与基准组在情感与情绪得分分布上的差异。

实验结果

研究问题

• RQ1 Gamergate用户在参与度、社交网络规模与情感倾向方面，与普通Twitter用户的行为模式有何差异？
• RQ2 与基准内容相比，Gamergate推文的情感基调如何，特别是在愤怒与喜悦方面？
• RQ3 与普通用户相比，Gamergate用户被Twitter封禁的比例如何？这反映了平台内容审核机制的有效性如何？
• RQ4 Gamergate用户与基准用户在仇恨言论与冒犯性语言的使用上存在哪些差异？

主要发现

• Gamergate用户参与度显著更高，拥有更多好友与粉丝，且发布的推文数量也多于普通Twitter用户。
• Gamergate用户表现出更强烈的负面情绪（25%为负面情绪，基准组为15%），喜悦感更低，但愤怒情绪水平并无显著升高。
• Hatebase平台的仇恨言论平均得分，Gamergate用户为0.25，基准用户为0.06，差异具有统计学显著性（p < 0.01）。
• Gamergate用户的封禁率为9%，而基准用户为20%，表明Twitter对Gamergate用户的检测与执行力度较低。
• 尽管参与度更高且内容更具冒犯性，Gamergate用户被封禁的可能性反而更低，暗示当前平台内容审核系统存在局限性。
• 本研究表明，Gamergate用户最显著的差异在于喜悦感降低，而非愤怒感升高，这挑战了关于网络骚扰中普遍存在强烈情绪表达的既有假设。