[论文解读] Surveying the Research on Fake News in Social Media: a Tale of Networks and Language.

Giancarlo Ruffo, Alfonso Semeraro+2 more|arXiv (Cornell University)|Sep 13, 2021

Misinformation and Its Impacts参考文献 203被引用 9

一句话总结

本综述通过社交媒体中的虚假新闻研究开展基于网络的分析，将计算语言学与网络科学相结合，绘制关键趋势，建模传播过程，并评估辟谣策略。通过混合数据挖掘与文本技术识别机器人账号和网络水军，强调需要采用整合性、实时更新的方法论以应对不断演变的虚假信息威胁。

ABSTRACT

The history of journalism and news diffusion is tightly coupled with the effort to dispel hoaxes, misinformation, propaganda, unverified rumours, poor reporting, and messages containing hate and divisions. With the explosive growth of online social media and billions of individuals engaged with consuming, creating, and sharing news, this ancient problem has surfaced with a renewed intensity threatening our democracies, public health, and news outlets credibility. This has triggered many researchers to develop new methods for studying, understanding, detecting, and preventing fake-news diffusion; as a consequence, thousands of scientific papers have been published in a relatively short period, making researchers of different disciplines to struggle in search of open problems and most relevant trends. The aim of this survey is threefold: first, we want to provide the researchers interested in this multidisciplinary and challenging area with a network-based analysis of the existing literature to assist them with a visual exploration of papers that can be of interest; second, we present a selection of the main results achieved so far adopting the network as an unifying framework to represent and make sense of data, to model diffusion processes, and to evaluate different debunking strategies. Finally, we present an outline of the most relevant research trends focusing on the moving target of fake-news, bots, and trolls identification by means of data mining and text technologies; despite scholars working on computational linguistics and networks traditionally belong to different scientific communities, we expect that forthcoming computational approaches to prevent fake news from polluting the social media must be developed using hybrid and up-to-date methodologies.

研究动机与目标

• 应对社交媒体中虚假新闻泛滥的问题，该问题威胁到民主制度、公共健康和媒体信誉。
• 为研究人员提供一种可视化、基于网络的现有文献探索方式，以识别相关研究和研究空白。
• 通过将网络作为建模虚假新闻传播和评估辟谣策略的框架，统一计算语言学与网络科学的研究发现。
• 突出利用数据挖掘与文本技术检测机器人账号、网络水军及不断演变的虚假信息策略的新兴研究趋势。
• 推动发展混合型、跨学科的方法论，以应对虚假新闻传播的动态与适应性特征。

提出的方法

• 构建基于网络的文献分析，可视化研究之间的关系，并识别关键研究集群。
• 利用网络表示并分析虚假新闻传播过程，包括传播模式与影响力结构。
• 将计算语言学技术与网络建模相结合，分析错误信息的文本内容与结构动态。
• 应用数据挖掘与文本分析方法，基于语言模式与网络行为检测机器人账号和网络水军。
• 通过基于网络的模拟与真实世界传播模型，评估辟谣策略的有效性。
• 整合跨学科研究成果，识别方法论上的空白，并为未来研究提出综合方法。

实验结果

研究问题

• RQ1 基于网络的可视化如何帮助研究人员应对社交媒体中虚假新闻文献的快速扩展？
• RQ2 哪些基于网络的模型在模拟和分析虚假新闻传播方面最为有效？
• RQ3 如何将计算语言学与网络科学相结合，以提升对机器人账号和网络水军的检测能力？
• RQ4 涉及协调行动者的虚假信息传播活动的检测中，关键趋势是什么？
• RQ5 在动态社交媒体环境中，需要哪些混合型方法论以有效防止虚假新闻传播？

主要发现

• 基于网络的文献分析使研究人员能够可视化探索并识别相关研究，揭示关键研究集群与相互关系。
• 网络建模为表示虚假新闻传播提供了统一框架，有助于更好地理解传播机制。
• 将网络结构与语言分析相结合，可提升对涉及机器人账号和网络水军的协同虚假信息活动的检测能力。
• 现有研究表明，机器人账号和网络水军正日益具备适应性，因此需要结合数据挖掘与文本技术的动态检测方法。
• 未来最有效的虚假新闻应对策略将需要融合计算语言学与网络科学的混合型方法。
• 尽管已有进展，但不同研究群体（尤其是计算语言学与网络科学领域）之间仍基本脱节，限制了方法论的整合。