[论文解读] Peer to Peer Hate: Hate Speech Instigators and Their Targets

Mai ElSherief, Shirin Nilizadeh+3 more|arXiv (Cornell University)|Apr 12, 2018

Hate Speech and Cyberbullying Detection被引用 26

一句话总结

本研究首次对推特平台上的仇恨言论煽动者与受害者进行了对比分析，基于人工筛选的27,330条仇恨推文数据集，考察了用户资料特征、在线可见性及人格特质。研究发现，煽动者更倾向于针对更具可见性的用户；且煽动者与受害者在愤怒、多疑及极端化方面均显著高于普通用户，表明二者可能存在共同的心理特征，从而助长网络仇恨言论的动态发展。

ABSTRACT

While social media has become an empowering agent to individual voices and freedom of expression, it also facilitates anti-social behaviors including online harassment, cyberbullying, and hate speech. In this paper, we present the first comparative study of hate speech instigators and target users on Twitter. Through a multi-step classification process, we curate a comprehensive hate speech dataset capturing various types of hate. We study the distinctive characteristics of hate instigators and targets in terms of their profile self-presentation, activities, and online visibility. We find that hate instigators target more popular and high profile Twitter users, and that participating in hate speech can result in greater online visibility. We conduct a personality analysis of hate instigators and targets and show that both groups have eccentric personality facets that differ from the general Twitter population. Our results advance the state of the art of understanding online hate speech engagement.

研究动机与目标

• 调查仇恨言论煽动者、受害者与普通推特用户在资料自我呈现、在线可见性及人格特质方面的差异。
• 通过构建全面的点对点仇恨言论数据集，弥补公开可用、角色标注的仇恨言论数据集的不足。
• 探究煽动者与受害者的个性特征是否与普通推特用户存在差异，以及这些特征是否与在线可见性及互动行为相关。
• 提出一种半自动化的分类方法，利用涵盖八个仇恨类别的51个仇恨词汇压缩词典，对定向明确的仇恨言论数据进行筛选。
• 通过基于人格特征的建模，为改进仇恨言论检测、缓解措施及反仇恨言论机器人设计提供可操作的见解。

提出的方法

• 采用多步骤分类流程，从推特中筛选出27,330条仇恨推文，其依据为源自Hatebase的51个词汇压缩词典，涵盖八类仇恨言论。
• 对数据集进行标注，以识别不同角色：仇恨言论煽动者（HIs）与受害者（HTs），从而支持对比分析。
• 通过账户年龄、认证状态、粉丝数及内容完整性等元数据，分析用户资料的自我呈现特征。
• 通过粉丝数、转发频率及列表收录情况衡量在线可见性，并采用多元回归模型控制用户活跃度的影响。
• 采用心理画像框架，比较HIs、HTs与普通用户在愤怒、情绪觉知及对改变的开放性等维度上的人格特质。
• 提出一种半自动化的数据筛选方法，结合关键词过滤与人工验证，确保仇恨言论标注的高精度。

实验结果

研究问题

• RQ1 RQ1：仇恨言论煽动者与受害者的账户特征及在线可见性如何与彼此以及普通推特用户相区别？
• RQ2 RQ2：仇恨言论煽动者、受害者与普通推特用户之间是否存在关键的人格差异？
• RQ3 RQ3：在控制用户活跃度后，参与仇恨言论是否仍与更高的在线可见性相关？
• RQ4 RQ4：仇恨言论煽动者与受害者是否具有普通推特用户所不具备的独特人格特质？
• RQ5 RQ5：基于人格特征的指标能否提升仇恨言论的早期检测或缓解效果？

主要发现

• 仇恨言论煽动者更倾向于针对更具可见性的用户，受害者拥有比煽动者多60%的认证账户，比普通用户多40%。
• 即使在控制用户活跃度后，更高的可见性（以粉丝数、转发数及列表收录衡量）仍与成为仇恨言论受害者显著相关。
• 仇恨言论煽动者与受害者在愤怒、多疑、情绪觉知低下及极端化方面均显著高于普通推特用户。
• 约50%的煽动者与受害者在‘对改变的开放性’人格维度上得分超过0.53，表明其可能对反仇恨言论干预措施具有可及性。
• 煽动者账户普遍较新，而受害者账户通常较老，提示其可能长期遭受骚扰。
• 本研究识别出煽动者与受害者之间共享的人格特质，如情绪调节障碍与社交退缩，与线下欺凌研究的发现一致。