[论文解读] The Dynamics of Offensive Messages in the World of Social Media: the Control of Cyberbullying on Twitter

Krystal Blanco, Aida Briceno+5 more|arXiv (Cornell University)|Jul 31, 2014

Bullying, Victimization, and Aggression参考文献 21被引用 3

一句话总结

本文提出一种离散时间非线性分 compartment 模型，用于研究通过‘隔离’机制限制用户互动以抑制推特上攻击性信息传播的机制。结果表明，只要隔离水平足够高，即可立即抑制网络欺凌行为，无论攻击者数量多少。分析条件显示，当隔离强度超过临界阈值时，攻击性信息水平将下降。

ABSTRACT

The 21st century has redefined the way we communicate, our concept of individual and group privacy, and the dynamics of acceptable behavioral norms. The messaging dynamics on Twitter, an internet social network, has opened new ways/modes of spreading information. As a result cyberbullying or in general, the spread of offensive messages, is a prevalent problem. The aim of this report is to identify and evaluate conditions that would dampen the role of cyberbullying dynamics on Twitter. We present a discrete-time non-linear compartmental model to explore how the introduction of a Quarantine class may help to hinder the spread of offensive messages. We based the parameters of this model on recent Twitter data related to a topic that communities would deem most offensive, and found that for Twitter a level of quarantine can always be achieved that will immediately suppress the spread of offensive messages, and that this level of quarantine is independent of the number of offenders spreading the message. We hope that the analysis of this dynamic model will shed some insights into the viability of new models of methods for reducing cyberbullying in public social networks.

研究动机与目标

• 研究推特上攻击性信息传播的动力学，特别是网络欺凌行为。
• 评估隔离机制在抑制攻击性信息传播方面的有效性。
• 构建一个能捕捉用户在转发和传播攻击性内容时非线性互动的数学模型。
• 确定攻击性信息水平随时间下降的阈值条件。
• 提供通过用户级隔离措施实现有效网络欺凌控制的分析条件。

提出的方法

• 基于流行病 SIR 类动力学，构建一种离散时间非线性分 compartment 模型，适用于社交媒体信息传播。
• 引入‘隔离’类以表示用户传播信息的能力受到限制，通过降低接触率进行建模。
• 使用真实推特数据中关于攻击性话题的参数校准模型的传播率和抑制率。
• 应用数学分析推导出攻击性信息传播者数量（O_t）随时间减少的条件。
• 采用指数衰减函数建模用户参与度和信息传播，其中 $ e^{-kO_t/N} $ 项表示因隔离导致的影响减弱。
• 推导出分析性阈值（例如 $ Z = \frac{k(1-\alpha)}{1-\lambda} < 1 $），以保证攻击性信息传播被抑制。

实验结果

研究问题

• RQ1 在何种条件下，隔离机制能有效抑制推特上攻击性信息的传播？
• RQ2 隔离水平如何影响攻击性信息传播的衰减速率？
• RQ3 攻击性信息的抑制是否与初始攻击者数量无关？
• RQ4 何种数学条件可确保攻击性信息传播者的数量随时间减少？
• RQ5 用户互动模式和网络结构如何影响隔离干预措施的有效性？

主要发现

• 只要隔离水平足够高，即可始终抑制推特上攻击性信息的传播，无论初始攻击者数量多少。
• 模型表明，当隔离阈值 $ Z = \frac{k(1-\alpha)}{1-\lambda} < 1 $ 时，攻击性信息传播者数量 $ O_t $ 随时间减少。
• 条件 $ k(1-\alpha) < 1 $ 且 $ \lambda \leq 1 - k(1-\alpha) $ 确保 $ O_{t+1} < O_t $，从而保证抑制效果。
• 抑制效果是立即生效的，且不依赖于攻击者群体的初始规模，表明隔离机制具有鲁棒性。
• 模型确认，在所提出的隔离政策下，传播攻击性信息的用户数量单调下降。
• 分析结果表明，即使初始传播者数量很高，只要隔离措施校准得当，仍可完全中止传播。