[论文解读] The spread of misinformation by social bots

Chengcheng Shao, Giovanni Luca Ciampaglia+3 more|arXiv (Cornell University)|Jul 24, 2017

Misinformation and Its Impacts参考文献 34被引用 16

一句话总结

本研究分析了2016年美国总统大选期间，来自40万篇文章的1400万条Twitter消息，发现社交机器人不成比例地放大了低可信度内容，尤其是在传播的早期阶段。自动账户针对高关注用户，且更可能传播虚假信息，表明遏制机器人活动可能有助于减轻网络虚假信息的传播。

ABSTRACT

The massive spread of digital misinformation has been identified as a major global risk and has been alleged to influence elections and threaten democracies. Communication, cognitive, social, and computer scientists are engaged in efforts to study the complex causes for the viral diffusion of misinformation online and to develop solutions, while search and social media platforms are beginning to deploy countermeasures. With few exceptions, these efforts have been mainly informed by anecdotal evidence rather than systematic data. Here we analyze 14 million messages spreading 400 thousand articles on Twitter during and following the 2016 U.S. presidential campaign and election. We find evidence that social bots played a disproportionate role in amplifying low-credibility content. Accounts that actively spread articles from low-credibility sources are significantly more likely to be bots. Automated accounts are particularly active in amplifying content in the very early spreading moments, before an article goes viral. Bots also target users with many followers through replies and mentions. Humans are vulnerable to this manipulation, retweeting bots who post links to low-credibility content. Successful low-credibility sources are heavily supported by social bots. These results suggest that curbing social bots may be an effective strategy for mitigating the spread of online misinformation.

研究动机与目标

• 调查社交机器人在2016年美国总统大选期间传播低可信度内容所起的作用。
• 确定自动化账户是否不成比例地负责在Twitter上放大虚假信息。
• 分析机器人活动在文章病毒式传播过程中的时间与目标模式。
• 评估人类用户在转发机器人传播的虚假信息方面是否易受操纵。
• 评估低可信度信息源是否系统性地受到机器人网络的支持。

提出的方法

• 本研究分析了2016年美国总统竞选期间及之后，在Twitter上分享的40万篇文章所生成的1400万条消息。
• 根据与自动化活动相关的的行为特征和网络特征，将Twitter账户分类为机器人。
• 研究人员追踪文章分享的时间动态，以识别机器人在早期阶段的放大行为。
• 通过测量针对高关注用户发送的回复和提及，分析目标模式。
• 比较机器人账户与人类账户在不同可信度来源上的分享行为。
• 使用统计模型评估在给定信息源可信度和转发模式下，账户为机器人的可能性。

实验结果

研究问题

• RQ1 社交机器人在2016年美国大选期间对Twitter上传播的低可信度内容放大作用有多大？
• RQ2 机器人是否不成比例地针对拥有大量关注者的用户，以扩大虚假信息的传播范围？
• RQ3 机器人活动是否集中在文章尚未病毒式传播前的初始传播阶段？
• RQ4 当内容由机器人分享时，人类用户是否更可能转发？
• RQ5 低可信度新闻来源是否系统性地受到机器人网络的支持？

主要发现

• 积极传播低可信度信息源内容的账户，被分类为机器人的可能性显著更高。
• 社交机器人在内容传播的最早阶段特别活跃，即在文章尚未病毒式传播之前，便开始放大虚假信息。
• 机器人经常通过回复和提及的方式，针对拥有大量关注者的用户，从而增加低可信度内容的潜在传播范围。
• 人类用户易受操纵，经常转发最初由机器人分享的、链接至低可信度信息源的内容。
• 成功的低可信度信息源受到高度协调的机器人网络支持，表明存在系统性自动化。
• 机器人不成比例的放大行为表明，遏制机器人活动可能是减少网络虚假信息传播的有效策略。