[论文解读] Debunking in a World of Tribes

Fabiana Zollo, Alessandro Bessi+6 more|arXiv (Cornell University)|Oct 14, 2015

Misinformation and Its Impacts参考文献 24被引用 26

一句话总结

本研究分析了在美国Facebook用户群体（5400万用户）中持续五年（2010年1月至2014年12月）的在线辟谣效果，重点关注用户对科学类内容与阴谋论类内容的互动。研究发现，辟谣行动效果甚微：仅极少数接触阴谋论内容的用户会与辟谣帖子互动，且那些互动的用户往往在阴谋论回音室内的参与度不降反升，表明其对纠正性信息存在心理抗拒。

ABSTRACT

Recently a simple military exercise on the Internet was perceived as the beginning of a new civil war in the US. Social media aggregate people around common interests eliciting a collective framing of narratives and worldviews. However, the wide availability of user-provided content and the direct path between producers and consumers of information often foster confusion about causations, encouraging mistrust, rumors, and even conspiracy thinking. In order to contrast such a trend attempts to extit{debunk} are often undertaken. Here, we examine the effectiveness of debunking through a quantitative analysis of 54 million users over a time span of five years (Jan 2010, Dec 2014). In particular, we compare how users interact with proven (scientific) and unsubstantiated (conspiracy-like) information on Facebook in the US. Our findings confirm the existence of echo chambers where users interact primarily with either conspiracy-like or scientific pages. Both groups interact similarly with the information within their echo chamber. We examine 47,780 debunking posts and find that attempts at debunking are largely ineffective. For one, only a small fraction of usual consumers of unsubstantiated information interact with the posts. Furthermore, we show that those few are often the most committed conspiracy users and rather than internalizing debunking information, they often react to it negatively. Indeed, after interacting with debunking posts, users retain, or even increase, their engagement within the conspiracy echo chamber.

研究动机与目标

• 调查在线辟谣活动在社交媒体上对抗虚假信息的有效性。
• 分析用户在Facebook上消费科学类内容与阴谋论类内容的行为。
• 检验辟谣行动是否能减少用户对虚假叙事的参与，或是否反而强化既有信念。
• 识别在线回音室中纠正虚假信息所面临的结构性与心理性障碍。
• 评估身处阴谋论回音室的用户对事实核查内容的反应是积极还是消极。

提出的方法

• 对2010年1月至2014年12月期间的5400万美国Facebook用户进行了为期五年的定量分析。
• 根据内容与自我描述，将Facebook页面划分为三类：科学新闻、阴谋论类新闻和辟谣页面。
• 识别出83个科学新闻页面和330个阴谋论类页面，其中65个专门用于辟驳阴谋论。
• 追踪了47,780条辟谣帖子的用户互动情况，以衡量参与度与行为变化。
• 采用网络分析与社区检测方法，识别出回音室结构，并分析科学类与阴谋论类内容消费者之间的隔离程度。
• 分析互动模式，比较两类社区用户对辟谣内容的响应差异。

实验结果

研究问题

• RQ1 回音室中的用户在Facebook上消费科学类内容与阴谋论类内容方面有何差异？
• RQ2 在消费阴谋论类内容的用户中，有多少人会与辟谣帖子互动？
• RQ3 与辟谣内容互动是否导致用户在阴谋论回音室中的参与度下降，还是反而强化了既有信念？
• RQ4 哪些心理或社会因素解释了辟谣行动效果有限的原因？
• RQ5 在科学社区与阴谋论社区中，辟谣内容的消费者行为模式有何异同？

主要发现

• 绝大多数用户处于高度隔离的回音室中，科学类与阴谋论类内容社区之间的跨互动极少。
• 仅极少数定期消费阴谋论类内容的用户会与辟谣帖子互动，表明纠正性信息的覆盖范围极低。
• 在与辟谣内容互动的用户中，其在阴谋论回音室内的参与度保持稳定或不降反升，表明存在‘反弹效应’。
• 与辟谣内容互动的用户往往是阴谋论的最忠实支持者，表明辟谣可能强化既有信念而非纠正错误认知。
• 本研究证实，心理保守主义与确认偏误在虚假信息持续传播中起着核心作用，即使事实更正信息已存在。
• 由于未能渗透或改变最脆弱、最坚定的受众群体的行为，辟谣行动无法有效减少虚假信息的传播。