[论文解读] Bots sustain and inflate striking opposition in online social systems.

Massimo Stella, Emilio Ferrara+1 more|arXiv (Cornell University)|Feb 20, 2018

Misinformation and Its Impacts被引用 13

一句话总结

本研究分析了2017年加泰罗尼亚独立公投期间的400万条Twitter帖子，揭示社交机器人在亲独立和亲宪法主义群体中均更倾向于针对有影响力用户。通过网络分析与情感分析，研究发现机器人通过向独立派用户大量传播负面和暴力内容，加剧了对立，从而加剧了两极分化并 destabilized 在线话语。

ABSTRACT

Societies are complex systems which tend to polarize into sub-groups of individuals with dramatically opposite perspectives. This phenomenon is reflected -- and often amplified -- in online social networks where, however, humans are no more the only players, and co-exist alongside with social bots, i.e. software-controlled accounts. Analyzing large-scale social data collected during the Catalan referendum for independence on October 1 2017, consisting of nearly 4 millions Twitter posts generated by almost 1 million users, we identify the two polarized groups of Independentists and Constitutionalists and quantify the structural and emotional roles played by social bots. We show that bots act from peripheral areas of the social system to target influential humans of both groups, mostly bombarding Independentists with negative and violent contents, sustaining and inflating instability in this online society. These results quantify the potential dangerous influence of political bots during voting processes.

研究动机与目标

• 调查社交机器人在高风险事件期间在线政治两极分化中的结构性与情感角色。
• 量化机器人如何影响在线社交网络中对立群体的动态。
• 分析机器人针对亲独立派与宪法主义社区中影响力用户的目标模式。
• 评估机器人生成内容的情感影响，特别是其在激化冲突中的作用。
• 评估机器人在多大程度上维持并加剧了在线政治话语的不稳定性。

提出的方法

• 本研究分析了2017年加泰罗尼亚公投期间来自100万用户的近400万条Twitter帖子数据集。
• 通过网络分析识别并绘制出两个主要对立群体：独立派与宪法派。
• 使用机器人检测算法，根据行为特征与网络特征将账户分类为机器人。
• 应用情感与情绪分析，对机器人生成内容的情感基调进行分类，特别关注负面情绪与暴力内容。
• 通过结构分析识别机器人相对于有影响力人类用户的中心性与目标模式。
• 本研究比较了机器人在不同群体中的活动，以评估其差异化目标与情感影响。

实验结果

研究问题

• RQ1 在高风险政治事件期间，社交机器人在网络结构中如何分布？
• RQ2 机器人生成的情感内容是什么？其在对立政治群体之间有何差异？
• RQ3 哪些用户最常成为机器人的目标？他们在网络中是核心还是边缘用户？
• RQ4 机器人在多大程度上加剧了在线政治话语中的两极分化与不稳定性？
• RQ5 机器人是否对网络中两个主要政治群体表现出不对称行为？

主要发现

• 机器人主要活跃于社交网络的外围位置，而非中心区域。
• 机器人不成比例地针对亲独立派群体中的有影响力用户，尤其以负面与暴力内容为主。
• 针对独立派用户生成的机器人内容量显著高于针对宪法派用户的内容量。
• 这种有针对性的、高密度的煽动性内容传播，加剧了在线空间的冲突与不稳定性。
• 本研究证实，机器人在关键投票事件期间，通过结构性与情感性角色，持续并放大了政治两极分化。
• 研究结果表明，机器人并非中立参与者，而是政治危机期间扭曲在线话语的积极行动者。