[论文解读] Hate begets Hate: A Temporal Study of Hate Speech
本研究首次对Gab平台上仇恨言论的时序演化进行了分析，采用每月一次的网络快照，并运用DeGroot模型为用户分配仇恨强度评分。研究发现，仇恨言论持续增长，新用户随时间推移更快地变得具有仇恨性，仇恨用户主导了网络核心，且整个社区的语言日益趋同于仇恨用户，表明仇恨言论形成了自我强化的生态系统。
With the ongoing debate on 'freedom of speech' vs. 'hate speech' there is an urgent need to carefully understand the consequences of the inevitable culmination of the two, i.e., 'freedom of hate speech' over time. An ideal scenario to understand this would be to observe the effects of hate speech in an (almost) unrestricted environment. Hence, we perform the first temporal analysis of hate speech on Gab.com, a social media site with very loose moderation policy. We first generate temporal snapshots of Gab from millions of posts and users. Using these temporal snapshots, we compute an activity vector based on DeGroot model to identify hateful users. The amount of hate speech in Gab is steadily increasing and the new users are becoming hateful at an increased and faster rate. Further, our analysis analysis reveals that the hate users are occupying the prominent positions in the Gab network. Also, the language used by the community as a whole seem to correlate more with that of the hateful users as compared to the non-hateful ones. We discuss how, many crucial design questions in CSCW open up from our work.
研究动机与目标
- 探究在内容审核极少的环境中，仇恨言论长期演化的机制，以Gab为案例研究。
- 理解仇恨言论如何在在线社区中随时间推移传播并趋于正常化。
- 分析仇恨用户对更广泛社区的语言与网络结构的影响。
- 探讨对CSCW系统中仇恨言论时序增长的缓解策略，在平台设计与治理方面的启示。
提出的方法
- 基于约2100万条帖子的数据集，以每月为间隔构建Gab社交网络的时序快照。
- 应用DeGroot信任模型，根据用户互动与内容计算其仇恨强度评分。
- 利用DeGroot模型的收敛动态，将用户划分为低、中、高仇恨强度三类。
- 开展语言学分析，比较仇恨用户与非仇恨用户在时间维度上的语言使用差异。
- 进行核心-边缘分析，评估仇恨用户在网络中的结构中心性。
- 采用事件驱动分析（如“团结右翼”集会、Twitter清查事件）评估外部事件对仇恨言论增长的影响。
实验结果
研究问题
- RQ1Gab平台上仇恨言论的总量与强度随时间如何演变？
- RQ2与早期用户相比，新用户在仇恨言论行为上随时间如何变化？
- RQ3仇恨用户在Gab社交网络中占据核心位置的程度如何？
- RQ4随着时间推移，整个社区的语言与仇恨用户语言的相关性如何？
- RQ5哪些外部事件会触发或加速平台上的仇恨言论增长？
主要发现
- 在为期两年的研究期间，Gab平台上的仇恨言论总量稳步上升。
- 随着时间推移，新加入Gab的用户更快地转变为具有仇恨倾向，越来越多用户达到高仇恨强度评分。
- 在仇恨言论激增的时期，绝大多数中高仇恨强度用户均为平台原有用户，而非新加入者。
- 仇恨用户被发现占据了Gab网络的核心位置，其达到中心地位的速度快于非仇恨用户。
- Gab社区整体的语言日益趋同于仇恨用户，表明仇恨言论在语言上趋于正常化。
- 外部事件如“团结右翼”集会和2017年12月的Twitter清查事件与仇恨言论的激增存在时间上的关联，但核心仇恨用户在事件前已基本存在。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。