[论文解读] Social Bots and Social Media Manipulation in 2020: The Year in Review

Ho-Chun Herbert Chang, Emily Chen+3 more|arXiv (Cornell University)|Feb 16, 2021

Misinformation and Its Impacts参考文献 57被引用 10

一句话总结

本文利用大规模的 Twitter 数据，分析了 2020 年新冠疫情和美国总统大选期间社交媒体操纵现象，结合计算方法与社会科学洞察。研究发现，尽管机器人仍在放大政治和健康相关的虚假信息，但与外国政府支持的网络活动相比，国内自组织的极端主义用户网络如今已成为扭曲信息传播的主要驱动力，且政治身份与公共卫生虚假信息高度关联。

ABSTRACT

The year 2020 will be remembered for two events of global significance: the COVID-19 pandemic and 2020 U.S. Presidential Election. In this chapter, we summarize recent studies using large public Twitter data sets on these issues. We have three primary objectives. First, we delineate epistemological and practical considerations when combining the traditions of computational research and social science research. A sensible balance should be struck when the stakes are high between advancing social theory and concrete, timely reporting of ongoing events. We additionally comment on the computational challenges of gleaning insight from large amounts of social media data. Second, we characterize the role of social bots in social media manipulation around the discourse on the COVID-19 pandemic and 2020 U.S. Presidential Election. Third, we compare results from 2020 to prior years to note that, although bot accounts still contribute to the emergence of echo-chambers, there is a transition from state-sponsored campaigns to domestically emergent sources of distortion. Furthermore, issues of public health can be confounded by political orientation, especially from localized communities of actors who spread misinformation. We conclude that automation and social media manipulation pose issues to a healthy and democratic discourse, precisely because they distort representation of pluralism within the public sphere.

研究动机与目标

• 调查社交机器人和自动化账户在 2020 年美国总统大选和新冠疫情这两场重大全球事件中，对虚假信息传播的推动作用。
• 分析在实时、高风险事件中整合计算研究与社会科学方法所面临的认识论与方法论挑战。
• 将 2020 年社交媒体操纵模式与此前年份进行对比，识别虚假信息传播来源与结构的变化。
• 探讨政治身份与公共卫生叙事的交叉影响，特别是关于戴口罩、邮寄选票和封锁措施的议题。
• 评估自动化系统与人类分享行为对阴谋论和虚假信息病毒式传播的影响。

提出的方法

• 利用涵盖数十亿条 2020 年 Twitter 公开数据集，追踪疫情和大选相关讨论。
• 应用最先进的机器学习技术，基于行为模式和网络结构检测并分类机器人账户。
• 开展内容分析，识别并分类与邮寄选票、戴口罩、封锁措施及与疫情相关的虚假信息有关的叙事。
• 进行网络分析，研究回音室的形成与政治社群的自组织，尤其关注保守派用户群集内部的结构。
• 追踪转发模式与转发量分布，量化机器人活动及其在党派之间的放大效应。
• 将研究发现与 2016 年的研究进行对比，识别社交媒体操纵来源与机制的变化。

实验结果

研究问题

• RQ1 社交机器人在 2020 年美国总统大选和新冠疫情中如何促进虚假信息的传播？
• RQ2 2020 年社交媒体操纵的来源是否已从外国政府支持的活动，转向国内兴起的自组织网络？程度如何？
• RQ3 政治身份如何与关于戴口罩和邮寄选票等公共卫生议题的叙事相契合？
• RQ4 人类分享行为在虚假信息病毒式传播中起到何种作用，尤其与机器人驱动的放大效应相比？
• RQ5 阴谋论的结构与叙事特征如何导致其传播速度超过事实新闻？

主要发现

• 2020 年的机器人每千人产生的与选举相关的推文数量显著更高，且主要在其所属的政治社群内部转发，超过 80% 的机器人活动局限于左倾或右倾网络。
• 尽管机器人活动持续存在，但 2020 年虚假信息传播的主要驱动力并非外国干预，而是国内自组织的极端主义用户网络，其通过传播阴谋论和加剧极化来操纵舆论。
• 政治身份与公共卫生叙事高度关联：反对戴口罩和邮寄选票的用户形成了密集且独立的社群，与主流舆论明显分离，尤其在保守派用户群集中表现显著。
• 虚假信息，尤其是阴谋论，即使在剔除机器人活动后，仍比真实信息传播得更快，这表明其传播具有强大的人类驱动因素。
• 关于疫情、邮寄选票和封锁措施的叙事在关键事件（如初选）后迅速上升，表明其与政治里程碑事件相关的协调或反应性话语模式。
• 本研究证实，真实新闻的结构性不稳定性——依赖不断演变的证据——使其处于劣势，而虚假阴谋论则具有自洽、完整的叙事结构，因而传播更有效。