[论文解读] Characterizing Online Engagement with Disinformation and Conspiracies in the 2020 U.S. Presidential Election

Karishma Sharma, Emilio Ferrara+1 more|arXiv (Cornell University)|Jul 17, 2021

Misinformation and Its Impacts参考文献 26被引用 4

一句话总结

本研究分析了2020年6月至9月期间的2.42亿条与选举相关的推文，利用训练好的CSI模型（AUC 0.8，F1 0.76）检测并描述虚假信息和阴谋论叙事，特别是与QAnon相关的内容。研究发现，尽管虚假信息推文的传播力低于可靠内容，但QAnon账户显著参与了与左倾用户互动，并在Twitter于2020年7月实施封禁后，通过改变话题标签并依赖已有账户进行适应，其行为变化经回归不连续设计确认具有统计显著性。

ABSTRACT

Identifying and characterizing disinformation in political discourse on social media is critical to ensure the integrity of elections and democratic processes around the world. Persistent manipulation of social media has resulted in increased concerns regarding the 2020 U.S. Presidential Election, due to its potential to influence individual opinions and social dynamics. In this work, we focus on the identification of distorted facts, in the form of unreliable and conspiratorial narratives in election-related tweets, to characterize discourse manipulation prior to the election. We apply a detection model to separate factual from unreliable (or conspiratorial) claims analyzing a dataset of 242 million election-related tweets. The identified claims are used to investigate targeted topics of disinformation, and conspiracy groups, most notably the far-right QAnon conspiracy group. Further, we characterize account engagements with unreliable and conspiracy tweets, and with the QAnon conspiracy group, by political leaning and tweet types. Finally, using a regression discontinuity design, we investigate whether Twitter's actions to curb QAnon activity on the platform were effective, and how QAnon accounts adapt to Twitter's restrictions.

研究动机与目标

• 识别并描述Twitter上美国2020年大选话语中的虚假信息和阴谋论叙事。
• 研究不可靠和阴谋论驱动内容的传播范围、互动模式及传播动态，特别是来自QAnon的内容。
• 通过分析行为适应和持续互动，评估Twitter于2020年7月对QAnon实施的禁令的有效性。
• 理解政治倾向、推文类型和账户活动如何影响对虚假信息和阴谋论内容的互动。

提出的方法

• 训练并应用CSI（跨源推断）模型，利用文本、时间及账户可疑性特征，将推文分类为事实性或不可靠/阴谋论性内容。
• 使用2020年6月20日至9月6日期间收集的2.42亿条与选举相关的推文数据集。
• 采用回归不连续设计（RDD）评估Twitter对QAnon实施封禁的因果影响，建模干预日期前后话题标签使用的变化。
• 通过级联广度和达到唯一账户所需时间等指标，比较不可靠/阴谋论推文与可靠推文级联的传播动态。
• 通过保留的测试集验证模型性能，AUC为0.8，F1为0.76。
• 分析政治倾向和推文类型下的互动模式，重点关注QAnon通过回复左倾用户以“唤醒”用户的战略。

实验结果

研究问题

• RQ1 在2020年美国大选之前，Twitter上普遍存在的虚假信息和阴谋论叙事是什么？
• RQ2 虚假信息和阴谋论团体在账户互动、政治倾向、推文类型及传播动态方面的影响力与覆盖范围有多大？
• RQ3 Twitter对QAnon实施的限制是否影响了其活动？这些措施在遏制阴谋论方面是否有效？

主要发现

• CSI模型在检测与选举相关的推文中不可靠和阴谋论性言论时，AUC达到0.8，F1得分为0.76。
• 最突出的虚假信息主题包括邮寄选票舞弊、新冠疫情、黑命贵运动、媒体审查以及对政治候选人的虚假指控。
• 虚假信息推文的病毒式传播范围低于可靠推文，其达到唯一账户的平均时间更长，级联广度更小。
• 尽管85.43%的账户（1040万个）未与QAnon互动，但在最活跃的120万个账户中，该比例下降至34.42%。
• QAnon账户通过有针对性地回复左倾用户以“唤醒”他们，表明其有策略地扩大影响力。
• 通过回归不连续设计，研究发现封禁后话题标签采用行为发生统计显著变化，持续互动主要由封禁前创建的账户驱动。