[论文解读] Anyone Can Become a Troll: Causes of Trolling Behavior in Online Discussions

Justin Cheng, Michael S. Bernstein+2 more|arXiv (Cornell University)|Feb 3, 2017

Social Media and Politics被引用 108

一句话总结

这篇论文展示负性情绪和暴露于先前喷子帖子会增加刷子行为的倾向，使用受控在线实验和大规模 CNN.com 数据集，并提出一个预测模型（AUC 0.78），表明刷子行为在很大程度上是情境性的而非天生的。

ABSTRACT

In online communities, antisocial behavior such as trolling disrupts constructive discussion. While prior work suggests that trolling behavior is confined to a vocal and antisocial minority, we demonstrate that ordinary people can engage in such behavior as well. We propose two primary trigger mechanisms: the individual's mood, and the surrounding context of a discussion (e.g., exposure to prior trolling behavior). Through an experiment simulating an online discussion, we find that both negative mood and seeing troll posts by others significantly increases the probability of a user trolling, and together double this probability. To support and extend these results, we study how these same mechanisms play out in the wild via a data-driven, longitudinal analysis of a large online news discussion community. This analysis reveals temporal mood effects, and explores long range patterns of repeated exposure to trolling. A predictive model of trolling behavior shows that mood and discussion context together can explain trolling behavior better than an individual's history of trolling. These results combine to suggest that ordinary people can, under the right circumstances, behave like trolls.

研究动机与目标

• 激发对为什么普通用户在网络讨论中进行刷子的理解。
• 识别影响刷子倾向的两种触发机制——用户情绪和讨论情境。
• 在实验层面确立情绪和情境对刷子行为的因果效应。
• 用来自一家主流新闻讨论站点的大规模观测数据来验证发现。
• 开发一个基于情绪和情境的预测模型来评估刷子的可能性。

提出的方法

• 进行一个二维二元的在线实验，改变参与者的情绪（正向对负向）和讨论情境（初始喷子帖子 vs 善意帖子）。
• 使用专家标注和基于 LIWC 的负性情感来测量刷子行为和情感。
• 采用随机化、多宇宙设计以控制路径依赖并确保独立的讨论环境。
• 进行混合效应逻辑回归以评估 NegMood 和 NegContext 对刷子可能性的影响。
• 在 CNN.com 讨论的大规模纵向分析（1650万帖）基础上增补实验结果，以研究情绪代理变量和曝光效应。
• 构建并评估一个逻辑回归模型以使用情绪和讨论情境作为预测变量来预测刷子（AUC = 0.78）。

实验结果

研究问题

• RQ1 负面情绪是否会提高用户发布刷子内容的可能性？
• RQ2 在讨论情境中暴露于先前的喷子帖子是否会提高刷子倾向？
• RQ3 情绪和讨论情境是否相互作用以影响刷子行为？
• RQ4 在现实世界数据中，刷子行为是否具有传染性，在用户和讨论之间传播？
• RQ5 与用户的历史刷子记录相比，情绪和情境在预测刷子行为上的效果如何？

主要发现

• 负面情绪使刷子的几率增加了89%。
• 讨论中存在先前的喷子帖子使刷子的几率增加了68%。
• 实验中负面情绪与负面情境的组合使基线刷子率翻倍。
• 在 CNN.com 数据中，被标记的帖子中有 1/4 来自没有先前标记历史的用户，这表明普通用户也在刷子中贡献。
• 刷子倾向随时间跟踪人口情绪波动，并在讨论之间呈现持续和衰减的模式。
• 使用情绪和讨论情境的逻辑回归模型在预测刷子行为方面达到 AUC = 0.78。