[论文解读] The Fake News Spreading Plague: Was it Preventable?

Eni Mustafaraj, Panagiotis Metaxas|arXiv (Cornell University)|Mar 20, 2017

Misinformation and Its Impacts参考文献 5被引用 36

一句话总结

本文分析了2010年在Twitter上爆发的针对民主党参议员候选人玛莎·科克利的虚假新闻传播事件，揭示了社交媒体上系统性 misinformation（虚假信息）传播活动的运作机制。研究追溯了此类策略在2016年美国大选期间的演变，当时Facebook与算法内容推荐机制使以盈利为目的的虚假新闻得以广泛传播，并呼吁提升研究影响力，以应对社会技术平台在安全漏洞方面的现实问题。

ABSTRACT

In 2010, a paper entitled "From Obscurity to Prominence in Minutes: Political Speech and Real-time search" won the Best Paper Prize of the Web Science 2010 Conference. Among its findings were the discovery and documentation of what was termed a "Twitter-bomb", an organized effort to spread misinformation about the democratic candidate Martha Coakley through anonymous Twitter accounts. In this paper, after summarizing the details of that event, we outline the recipe of how social networks are used to spread misinformation. One of the most important steps in such a recipe is the "infiltration" of a community of users who are already engaged in conversations about a topic, to use them as organic spreaders of misinformation in their extended subnetworks. Then, we take this misinformation spreading recipe and indicate how it was successfully used to spread fake news during the 2016 U.S. Presidential Election. The main differences between the scenarios are the use of Facebook instead of Twitter, and the respective motivations (in 2010: political influence; in 2016: financial benefit through online advertising). After situating these events in the broader context of exploiting the Web, we seize this opportunity to address limitations of the reach of research findings and to start a conversation about how communities of researchers can increase their impact on real-world societal issues.

研究动机与目标

• 记录并系统化分析2010年在Twitter上针对马萨诸塞州参议员选举的协调性虚假信息传播活动，即所谓的“Twitter炸弹”事件。
• 追踪此类策略在2016年美国总统大选期间的演变，当时Facebook以算法取代人工编辑，从而促成虚假新闻的广泛传播。
• 强调当前研究者在获取Facebook数据方面存在的局限，特别是对私人群组及早期虚假信息传播链的访问受限。
• 质疑在Facebook、Google和Twitter等平台内容审核中，人工干预与算法系统之间的角色平衡。
• 倡导提升研究影响力，以应对虚假信息与平台治理等现实社会问题。

提出的方法

• 在2010年马萨诸塞州参议员选举期间，收集包含关键词“coakley”和“brown”的实时Twitter数据。
• 识别并分析了在138分钟内由9个新注册的匿名Twitter账户发布的995条推文，所有推文均引导用户访问同一虚构网站。
• 通过分析接收回复推文用户的转发行为与关注者网络，追踪虚假信息的传播路径。
• 利用Twitter API数据及TwitterTrails、Truthy等工具，重建事件时间线，监测谣言传播过程。
• 绘制Facebook在2016年将“趋势新闻”功能从人工编辑转向机器学习算法的转变过程，并将其与虚假新闻的兴起关联。
• 评估Facebook后续的应对措施，包括通过第三方事实核查机构引入“争议”标签，以及在用户分享前弹出警告提示。

实验结果

研究问题

• RQ1 2010年Twitter炸弹活动是如何执行的？其快速传播背后的技术与社会机制是什么？
• RQ2 在社交媒体平台上可重复传播虚假信息的核心构成要素是什么？
• RQ3 Facebook在2016年将“趋势新闻”功能从人工编辑替换为机器学习算法，如何促进了虚假新闻的传播？
• RQ4 尽管已有早期预警，为何研究人员未能及时检测并响应2016年的虚假新闻泛滥？
• RQ5 在Facebook和Twitter等大规模社会技术平台的内容审核中，人工监督与算法系统应分别发挥何种作用？

主要发现

• 2010年Twitter炸弹活动涉及9个匿名账户，在138分钟内向573名用户发送了929条回复推文，全部引导至同一虚构网站。
• 96%的接收者在过去四小时内曾积极讨论马萨诸塞州参议员选举，表明其精准瞄准了活跃的社区群体。
• 25%的接收者（共143人）转发了该信息，通过自然传播网络使约61,732名用户接触到虚假信息。
• 该活动之所以成功，是因为其利用了用户已有的互动行为与社交网络结构，通过回复推文绕过了新账户的粉丝数量限制。
• Facebook在2016年8月将“趋势新闻”从人工编辑转为算法驱动，使虚假新闻得以实现病毒式传播，该现象被BuzzFeed所记录。
• 尽管引入了“争议”标签与分享警告，Facebook仍允许用户分享被标记的内容，限制了现有干预措施的实际效果。