[论文解读] Conspiracy Machines -- The Role of Social Bots during the COVID-19 Infodemic

Julian Marx, Felix Brünker+2 more|arXiv (Cornell University)|Dec 17, 2020

Misinformation and Its Impacts被引用 6

一句话总结

本研究通过机器人检测与内容分析，调查了在Twitter上新冠疫情信息过载期间，社交机器人在放大错误信息方面所起的作用。在542,345名用户中识别出78个可疑机器人，发现这些机器人同时传播阴谋论和正规新闻，揭示了一种双重策略，该策略破坏了公共卫生传播，并呼吁改进机器人检测与危机应对机制。

ABSTRACT

The omnipresent COVID-19 pandemic gave rise to a parallel spreading of misinformation, also referred to as an Infodemic. Consequently, social media have become targets for the application of social bots, that is, algorithms that mimic human behaviour. Their ability to exert influence on social media can be exploited by amplifying misinformation, rumours, or conspiracy theories which might be harmful to society and the mastery of the pandemic. By applying social bot detection and content analysis techniques, this study aims to determine the extent to which social bots interfere with COVID- 19 discussions on Twitter. A total of 78 presumptive bots were detected within a sample of 542,345 users. The analysis revealed that bot-like users who disseminate misinformation, at the same time, intersperse news from renowned sources. The findings of this research provide implications for improved bot detection and managing potential threats through social bots during ongoing and future crises.

研究动机与目标

• 调查社交机器人在新冠疫情期间于Twitter上传播错误信息的程度。
• 通过自动化检测技术识别讨论新冠疫情的用户账户中的机器人行为特征。
• 分析检测到的机器人内容模式，特别是其同时使用错误信息与可信新闻来源的方式。
• 评估机器人活动对公共卫生传播与危机管理的影响。
• 为未来公共卫生危机中改进机器人检测系统提供依据。

提出的方法

• 应用社交机器人检测算法，识别542,345名讨论新冠疫情的Twitter用户中具有机器人行为特征的账户。
• 利用行为特征与基于网络的特征，将账户分类为具有机器人特征，重点关注发帖频率、互动模式及账户元数据。
• 对检测到的机器人账户进行内容分析，以考察其推文性质，包括使用阴谋论及引用权威新闻来源的情况。
• 结合定量机器人检测与定性内容分类，评估其双重传播策略。
• 采用混合方法，实时关联机器人行为与社交媒体话语中的特定内容模式。
• 利用Twitter公开数据及开源机器人检测框架，确保研究的可复现性与透明度。

实验结果

研究问题

• RQ1 在新冠疫情早期阶段，社交机器人在Twitter上传播错误信息的程度如何？
• RQ2 具有机器人特征的账户如何组织其内容，特别是与可信新闻来源和阴谋论的关系如何？
• RQ3 在与疫情相关的讨论中，哪些行为与网络特征可将机器人与人类用户区分开？
• RQ4 机器人如何同时放大错误信息与正规新闻？这种双重行为有何影响？
• RQ5 如何改进机器人检测系统，以更有效地识别并减轻公共卫生危机期间的有害影响？

主要发现

• 在542,345名讨论新冠疫情的Twitter用户样本中，共识别出78个可疑社交机器人。
• 具有机器人特征的用户被发现将错误信息与阴谋论夹杂在来自可信新闻来源的内容中，表明其有策略地试图营造可信形象。
• 同时传播错误信息与正规新闻的机器人存在，表明存在系统性努力以模糊事实报道与虚假信息之间的界限。
• 研究结果表明，机器人可利用主流媒体的可信度来放大虚假叙事，从而增强其说服力。
• 研究结果强调，亟需开发更先进的机器人检测系统，以识别危机情境下的混合内容策略。
• 本研究为社交媒体平台与公共卫生机构提供了可操作的见解，有助于在未来卫生紧急事件中应对机器人驱动的信息过载。