[论文解读] Identifying and characterizing superspreaders of low-credibility content on Twitter

Matthew DeVerna, Rachith Aiyappa+3 more|arXiv (Cornell University)|Jul 19, 2022

Misinformation and Its Impacts被引用 13

一句话总结

本研究利用 $h$-index 和 Influence 等预测性指标，识别并表征了 Twitter 上低可信度内容的超级传播者，发现仅 0.25% 的账户（1,000 个）便产生了超过 70% 的此类内容。$h$-index 在预测顶级超级传播者方面优于其他指标，这些超级传播者主要为政治类账号，通常已认证，且使用更具攻击性的语言，凸显了平台在监管高影响力虚假信息传播者方面存在系统性失败。

ABSTRACT

The world's digital information ecosystem continues to struggle with the spread of misinformation. Prior work has suggested that users who consistently disseminate a disproportionate amount of low-credibility content -- so-called superspreaders -- are at the center of this problem. We quantitatively confirm this hypothesis and introduce simple metrics to predict the top superspreaders several months into the future. We then conduct a qualitative review to characterize the most prolific superspreaders and analyze their sharing behaviors. Superspreaders include pundits with large followings, low-credibility media outlets, personal accounts affiliated with those media outlets, and a range of influencers. They are primarily political in nature and use more toxic language than the typical user sharing misinformation. We also find concerning evidence that suggests Twitter may be overlooking prominent superspreaders. We hope this work will further public understanding of bad actors and promote steps to mitigate their negative impacts on healthy digital discourse.

研究动机与目标

• 系统识别并表征在 Twitter 上不成比例传播低可信度内容的用户。
• 评估平台无关指标在高精度预测未来超级传播者方面的有效性。
• 理解超级传播者的行为主张与人口统计特征，包括其动机与平台对待方式。
• 评估像 Twitter 这样的社交媒体平台是否有效监管高影响力虚假信息传播者。
• 通过揭示内容审核中的结构性漏洞，为政策制定与平台设计提供依据。

提出的方法

• 收集了 10 个月的 Twitter Decahose 数据，以追踪来自低可信度来源的内容传播。
• 将超级传播者定义为那些发起并广泛传播低可信度内容的账户。
• 评估四种指标——Bot Score、Popularity、Influence 和 $h$-index——在预测未来超级传播者状态方面的表现。
• 采用基于时间的评估方法：在初始阶段对账户进行排名，并在后续阶段测量其预测准确性。
• 对最活跃的超级传播者进行定性分析，包括人工分类账户类型与行为特征。
• 开展拆解分析，评估移除顶级超级传播者对整体低可信度内容传播的影响。

实验结果

研究问题

• RQ1 简单的、平台无关的指标能否可靠预测未来哪些用户将成为低可信度内容的超级传播者？
• RQ2 哪些类型的用户最常被识别为超级传播者，他们的行为特征如何？
• RQ3 超级传播者在 Twitter 上传播低可信度内容的影响力在多大程度上集中？
• RQ4 具有显著影响力的超级传播者——尤其是已认证或粉丝数众多的账户——是否被平台的审核系统所忽视？
• RQ5 与普通虚假信息传播者相比，超级传播者在多大程度上使用更具攻击性的语言？

主要发现

• $h$-index 和 Influence 指标在数月前便实现了接近最优的准确性，可预测顶级超级传播者。
• 仅 10 个超级传播者（占账户总数的 0.003%）便负责在接下来八个月内发起超过 34% 的低可信度内容。
• 总计 1,000 个账户（占所有账户的 0.25%）导致了超过 70% 的低可信度内容传播。
• 52% 的超级传播者具有政治属性，包括评论员、媒体机构以及美国两大主要政党的官方党派账户。
• 超级传播者使用的语言显著更具攻击性，相较于普通传播虚假信息的用户。
• 研究发现，Twitter 对具有显著影响力的超级传播者，尤其是已认证或粉丝数众多的账户，可能存在监管宽松现象，尽管其影响力巨大。