[论文解读] Using co-sharing to identify use of mainstream news for promoting potentially misleading narratives

Pranav Goel, Jon Green+2 more|arXiv (Cornell University)|Aug 12, 2023

Misinformation and Its Impacts被引用 5

一句话总结

本文指出，主流媒体来自可信媒体的新闻文章被战略性地重新利用，通过与虚假新闻在推特上共同分享，以放大误导性叙事。通过自然语言处理检测虚假信息叙事，作者发现，即使在控制了政治倾向后，共同分享的文章中此类叙事的出现率仍显著高于未共同分享的文章，表明事实性报道可能无意中助长了虚假信息传播活动。

ABSTRACT

Much of the research quantifying volume and spread of online misinformation measures the construct at the source level, identifying a set of specific unreliable domains that account for a relatively small share of news consumption. This source-level dichotomy obscures the potential for users to repurpose factually true information from reliable sources to advance misleading narratives. We demonstrate this potentially far more prevalent form of misinformation by identifying articles from reliable sources that are frequently co-shared with (shared by users who also shared) "fake" news on social media, and concurrently extracting narratives present in fake news content and claims fact-checked as false. Specifically in this study, we use Twitter/X data from May 2018 to November 2021 matched to a U.S. voter file. We find that narratives present in misinformation content are significantly more likely to occur in co-shared articles than in articles from the same reliable sources that are not co-shared, consistent with users using information from mainstream sources to enhance the credibility and reach of potentially misleading claims.

研究动机与目标

• 调查尽管本身并非虚假，但主流新闻文章为何会被与虚假新闻在推特上共同分享。
• 检验与虚假新闻共同分享的主流文章是否比同一媒体未共同分享的文章含有更高比例的虚假信息叙事。
• 确定共同分享现象是否由叙事内容驱动，而非单纯由政治倾向或文章流行度所致。
• 证明真实新闻如何被重新利用，以增强在线虚假信息生态系统中虚假叙事的传播范围和说服力。
• 开发并应用一种基于图的方法，识别与虚假新闻不成比例共同分享的文章，从而实现叙事层面的分析。

提出的方法

• 作者采用基于图的方法，其中节点代表虚假新闻和主流新闻文章，边的权重表示在推特上共同分享的用户数量。
• 他们应用统计模型来评分共同分享的可能性，控制单篇文章的传播程度，以隔离出不成比例的分享行为。
• 使用无监督自然语言处理技术从虚假声明中提取叙事结构，以识别指示虚假信息的实体-动作关系。
• 如果某篇文章被显著更高比例的用户共同分享（这些用户也分享了虚假新闻），相比预期的共同分享率，则被归类为“共同分享”。
• 通过比较同一媒体来源的共同分享与非共同分享文章，严格控制政治倾向的偏差，使用可靠标准。
• 对《华盛顿邮报》一篇关于“接种疫苗者占新冠死亡病例多数”的文章进行案例研究，显示其被反疫苗网络不成比例地分享。

实验结果

研究问题

• RQ1 与虚假新闻共同分享的主流新闻文章是否比未共同分享的文章含有更多虚假信息叙事？
• RQ2 主流文章与虚假新闻共同分享是否由叙事内容驱动，而非政治倾向或文章流行度？
• RQ3 在在线虚假信息生态系统中，事实性新闻在多大程度上可被重新利用以支持误导性叙事？
• RQ4 虚假新闻中的叙事结构如何通过与真实新闻文章的共同分享在推特上传播？
• RQ5 基于图的方法能否有效识别与虚假新闻不成比例共同分享的主流文章，从而实现叙事层面的分析？

主要发现

• 即使在控制政治倾向和传播度后，与虚假新闻共同分享的主流新闻文章中，虚假信息叙事的出现率仍显著高于同一媒体未共同分享的文章。
• 《华盛顿邮报》题为“接种疫苗者现在占新冠死亡病例多数”的文章，尽管事实准确，却被有反疫苗虚假新闻分享历史的用户不成比例地分享。
• 特定虚假信息叙事（如关于疫苗危害或选举舞弊的主张）的存在是共同分享的强预测因子，且独立于媒体偏见或文章传播度。
• 共同分享并非单纯由政治倾向驱动，因为同一媒体会发布含与不含此类叙事的文章，而只有叙事丰富的文章才被不成比例地共同分享。
• 本研究从虚假声明中识别出318个高维虚假信息叙事，用于检测和验证共同分享主流内容中的叙事重复使用。
• 研究结果表明，主流新闻不仅是虚假信息的被动受害者，还可能被战略性地重新利用，以增强虚假叙事的可信度和传播范围。