[论文解读] The spread of fake news by social bots

Chengcheng Shao, Giovanni Luca Ciampaglia+3 more|arXiv (Cornell University)|Jul 24, 2017

Misinformation and Its Impacts参考文献 24被引用 242

一句话总结

本研究分析了2016年美国总统大选期间与40万条声明相关的1400万条Twitter消息，发现社交机器人显著放大了虚假新闻的传播，尤其是在早期传播阶段，并通过针对有影响力的用户来实现。研究证明，自动化账户在病毒式传播的虚假信息中占主导地位，表明遏制机器人是减少网络虚假信息的关键策略。

ABSTRACT

The massive spread of fake news has been identified as a major global risk and has been alleged to influence elections and threaten democracies. Communication, cognitive, social, and computer scientists are engaged in efforts to study the complex causes for the viral diffusion of digital misinformation and to develop solutions, while search and social media platforms are beginning to deploy countermeasures. However, to date, these efforts have been mainly informed by anecdotal evidence rather than systematic data. Here we analyze 14 million messages spreading 400 thousand claims on Twitter during and following the 2016 U.S. presidential campaign and election. We find evidence that social bots play a key role in the spread of fake news. Accounts that actively spread misinformation are significantly more likely to be bots. Automated accounts are particularly active in the early spreading phases of viral claims, and tend to target influential users. Humans are vulnerable to this manipulation, retweeting bots who post false news. Successful sources of false and biased claims are heavily supported by social bots. These results suggests that curbing social bots may be an effective strategy for mitigating the spread of online misinformation.

研究动机与目标

• 调查社交机器人在2016年美国总统大选期间虚假新闻病毒式传播中的作用。
• 确定自动化账户是否比人类用户更可能传播虚假或偏见性声明。
• 分析虚假信息扩散的时间和网络模式，特别是机器人的传播时机和目标行为。
• 评估人类用户转发机器人账户内容的程度，以衡量其对操纵的易感性。
• 评估遏制社交机器人是否能有效减少网络虚假信息的传播。

提出的方法

• 在2016年美国总统竞选期间及之后，收集并分析了1400万条传播40万条声明的Twitter消息。
• 通过行为和基于网络的启发式方法识别机器人账户，包括高发推量、低互动多样性以及网络中心性指标。
• 追踪声明的时间传播过程，以确定机器人活动是否先于或与病毒式传播模式同时发生。
• 通过分析转发网络，识别自动化账户频繁互动的高影响力用户，绘制机器人的目标行为。
• 使用统计建模比较机器人驱动的声明与人类驱动的声明，量化虚假信息传播的可能性。
• 评估人类用户对机器人传播内容的转发行为，以评估其对自动化操纵的易感性。

实验结果

研究问题

• RQ1 社交机器人在2016年美国总统大选期间是否对虚假新闻的传播负有不成比例的责任？
• RQ2 与人类用户相比，机器人是否更早地发起或放大虚假信息？
• RQ3 机器人是否比非有影响力用户更频繁地针对有影响力用户，以最大化传播范围？
• RQ4 人类用户在多大程度上受到机器人传播内容的影响并转发这些内容？
• RQ5 机器人驱动的虚假信息在结构和行为模式上与人类驱动的声明有何异同？

主要发现

• 积极传播虚假信息的账户在行为和网络指标上被显著分类为社交机器人。
• 社交机器人在声明传播的早期阶段尤为活跃，表明其在启动病毒式传播中具有战略性作用。
• 机器人账户经常针对有影响力用户，通过高可见度的转发放大虚假声明。
• 发现人类用户会转发机器人发布的虚假新闻内容，表明其易受自动化操纵的影响。
• 虚假和偏见性声明的成功传播高度依赖于协调一致的机器人活动，证实了其在虚假信息生态系统中的核心作用。
• 研究结果表明，遏制社交机器人的存在和活动可能是减少网络虚假信息传播的有效干预措施。