[论文解读] Understanding the Bystander Effect on Toxic Twitter Conversations

Ana Aleksandric, Mohit Singhal+2 more|arXiv (Cornell University)|Nov 19, 2022

Hate Speech and Cyberbullying Detection被引用 5

一句话总结

本研究探讨了Twitter群组动态如何通过旁观者效应和初始回应规范加剧网络毒性。基于9,000个对话中的156,324条推文样本，研究发现参与者数量增加会降低非毒性回应的可能性（旁观者效应），且早期出现的毒性回复会预测对话整体毒性的上升，凸显社会规范是在线行为的关键驱动因素。

ABSTRACT

In this study, we explore the power of group dynamics to shape the toxicity of Twitter conversations. First, we examine how the presence of others in a conversation can potentially diffuse Twitter users' responsibility to address a toxic direct reply. Second, we examine whether the toxicity of the first direct reply to a toxic tweet in conversations establishes the group norms for subsequent replies. By doing so, we outline how bystanders and the tone of initial responses to a toxic reply are explanatory factors which affect whether others feel uninhibited to post their own abusive or derogatory replies. We test this premise by analyzing a random sample of more than 156k tweets belonging to ~9k conversations. Central to this work is the social psychological research on the "bystander effect" documenting that the presence of bystanders has the power to alter the dynamics of a social situation. If the first direct reply reaffirms the divisive tone, other replies may follow suit. We find evidence of a bystander effect, with our results showing that an increased number of users participating in the conversation before receiving a toxic tweet is negatively associated with the number of Twitter users who responded to the toxic reply in a non-toxic way. We also find that the initial responses to toxic tweets within conversations is of great importance. Posting a toxic reply immediately after a toxic comment is negatively associated with users posting non-toxic replies and Twitter conversations becoming increasingly toxic.

研究动机与目标

• 探讨Twitter对话中旁观者的存在如何影响用户对毒性回复做出非毒性回应的可能性。
• 检验对毒性推文的初始回应是否设定了影响后续对话毒性的规范。
• 评估社会规范在塑造在线行为（尤其是网络欺凌与仇恨言论情境）中的作用。
• 识别预测在线讨论中毒性升级或缓解的结构性与行为性因素。
• 为促进亲社会行为、减少网络不文明行为提供干预依据。

提出的方法

• 分析了9,058个涉及毒性回复的Twitter对话中随机抽取的156,324条推文。
• 使用泊松回归模型分析非毒性回复数量（H1, H2），使用普通最小二乘法（OLS）回归预测剩余对话毒性（H3）。
• 测量关键预测变量：毒性回复前的用户数量、毒性推文后首个回复的毒性、对话深度与广度、用户账户特征（如认证状态、粉丝数）。
• 采用Perspective API对推文进行自动化毒性分类。
• 控制用户层面特征（如账户年龄、资料完整性、地理位置、URL存在性）和网络结构特征（深度、广度）。
• 为H3分析排除了在首个毒性回复后少于两条回复的对话，最终保留1,959个对话。

实验结果

研究问题

• RQ1 在毒性回复出现前参与对话的用户数量是否降低非毒性回应的可能性？
• RQ2 在毒性推文之后首个回复的毒性程度在多大程度上影响对话整体的毒性？
• RQ3 对话结构（深度与广度）在多大程度上调节初始回应与后续毒性之间的关系？
• RQ4 用户层面特征（如认证状态、粉丝数）如何影响对毒性内容的回应？
• RQ5 早期回复所建立的社会规范在多大程度上塑造了毒性对话的发展轨迹？

主要发现

• 在毒性回复出现前参与对话的用户数量与非毒性回应呈负相关（β = -0.020，p < 0.001），支持旁观者效应的存在。
• 在毒性推文后出现的首个回复若具毒性，则与剩余对话毒性的增加显著正相关（β = 0.086，p < 0.001），表明存在规范设定行为。
• 对话深度与广度越大，剩余毒性越低，表明更大的对话结构可能抑制毒性的升级。
• H3模型解释了剩余毒性6.4%的方差（R² = 0.064），且回复毒性是统计上显著的预测变量。
• 认证用户更少发布非毒性回复（β = -0.471，p < 0.001），但此结果可能反映选择偏差或平台特定行为。
• 账户年龄和资料完整性（如简介长度）与回应行为存在微弱但显著的相关性，尽管效应量较小。