[论文解读] One Year of COVID-19 Vaccine Misinformation on Twitter: Longitudinal Study

Francesco Pierri, Matthew DeVerna+4 more|arXiv (Cornell University)|Sep 4, 2022

Misinformation and Its Impacts被引用 4

一句话总结

这项纵向研究分析了2021年1月至12月期间推特上关于新冠疫苗的虚假信息，采用自动化检测与网络分析方法追踪低可信度内容及其传播模式。研究发现，约800名经过验证的‘超级传播者’——尤其是罗伯特·肯尼迪 Jr.——导致了35%的虚假信息转发总量，可疑的YouTube链接和机器人账户加剧了有害内容的传播，表明尽管已采取下架措施，仍可能存在经济利益驱动传播行为。

ABSTRACT

Vaccinations play a critical role in mitigating the impact of COVID-19 and other diseases. This study explores COVID-19 vaccine misinformation circulating on Twitter during 2021, when vaccines were being released to the public in an effort to mitigate the global pandemic. Our findings show a low prevalence of low-credibility information compared to mainstream news. However, most popular low-credibility sources had larger reshare volumes than authoritative sources such as the CDC and WHO. We observed an increasing trend in the prevalence of low-credibility news relative to mainstream news about vaccines. We also observed a considerable amount of suspicious YouTube videos shared on Twitter. Tweets by a small group of about 800 "superspreaders" verified by Twitter accounted for approximately 35% of all reshares of misinformation on the average day, with the top superspreader (@RobertKennedyJr) responsible for over 13% of retweets. Low-credibility news and suspicious YouTube videos were more likely to be shared by automated accounts. Our findings are consistent with the hypothesis that superspreaders are driven by financial incentives that allow them to profit from health misinformation. Despite high-profile cases of deplatformed misinformation superspreaders, our results show that in 2021 a few individuals still played an outsize role in the spread of low-credibility vaccine content. Social media policies should consider revoking the verified status of repeat-spreaders of harmful content, especially during public health crises.

研究动机与目标

• 了解2021年疫情期间推特上低可信度疫苗虚假信息的传播动态。
• 识别关键传播者，特别是负责放大虚假信息的经过验证用户。
• 研究自动化账户和可疑YouTube链接在传播虚假信息中的作用。
• 评估低可信度信息源与权威卫生组织（如CDC和WHO）的相对传播范围。
• 评估社交媒体认证机制和平台政策在遏制有害内容传播方面的有效性。

提出的方法

• 使用推特API收集并分析了2021年1月至12月期间与新冠疫苗相关的120万条推文。
• 基于事实核查数据库和媒体可信度评估，将信息源分类为低可信度或主流新闻。
• 将‘超级传播者’定义为生成虚假信息转发量远超平均水平的经过验证用户。
• 追踪并分析嵌入推文中的可疑YouTube视频的传播模式。
• 使用机器人检测启发式方法评估自动化账户在转发低可信度内容中的普遍性。
• 应用纵向分析方法，衡量虚假信息流行程度相对于主流新闻的时间趋势。

实验结果

研究问题

• RQ1 2021年期间，推特上低可信度疫苗虚假信息相对于主流新闻的普遍程度如何？
• RQ2 哪些经过验证的用户转发了最高数量的虚假信息？
• RQ3 低可信度信息源的传播范围与CDC和WHO等权威机构相比如何？
• RQ4 可疑YouTube视频和自动化账户在传播虚假信息中所起的作用有多大？
• RQ5 高转发量虚假信息传播者的行为可能受到何种激励驱动？

主要发现

• 尽管整体上低可信度疫苗虚假信息的传播频率低于主流新闻，但其转发量显著更高。
• 排名前800名经过验证的‘超级传播者’占所有虚假信息每日转发总量的约35%。
• 罗伯特·肯尼迪 Jr. 一人平均每天就导致超过13%的虚假信息转发。
• 自动化账户比人类用户更频繁地分享低可信度信息源和可疑YouTube链接。
• 2021年全年，低可信度疫苗内容相对于主流新闻的传播频率呈现统计上显著的上升趋势。
• 研究结果支持‘经济利益驱动超级传播者行为’的假设，尽管部分高调账号已被下架。