[论文解读] False Information on Web and Social Media: A Survey

Srijan Kumar, Neil Shah|arXiv (Cornell University)|Apr 23, 2018

Misinformation and Its Impacts参考文献 86被引用 137

一句话总结

本综述回顾网络与社交媒体上虚假信息的传播情况，涵盖参与者、动机、影响、特征及检测方法。

ABSTRACT

False information can be created and spread easily through the web and social media platforms, resulting in widespread real-world impact. Characterizing how false information proliferates on social platforms and why it succeeds in deceiving readers are critical to develop efficient detection algorithms and tools for early detection. A recent surge of research in this area has aimed to address the key issues using methods based on feature engineering, graph mining, and information modeling. Majority of the research has primarily focused on two broad categories of false information: opinion-based (e.g., fake reviews), and fact-based (e.g., false news and hoaxes). Therefore, in this work, we present a comprehensive survey spanning diverse aspects of false information, namely (i) the actors involved in spreading false information, (ii) rationale behind successfully deceiving readers, (iii) quantifying the impact of false information, (iv) measuring its characteristics across different dimensions, and finally, (iv) algorithms developed to detect false information. In doing so, we create a unified framework to describe these recent methods and highlight a number of important directions for future research.

研究动机与目标

• 描述网络与社交媒体上虚假信息的类型和意图。
• 描述大规模传播虚假信息的主体及其机制。
• 量化跨平台的影响及传播模式。
• 评审并按基于特征、基于图和传播建模方法对检测算法进行分类。
• 强调未来研究的开放方向和统一框架。

提出的方法

• 按意图（misinformation vs disinformation）和知识内容（opinion-based vs fact-based）对虚假信息进行分类。
• 调查包括 bots 和 sockpuppets 在内的主体，并分析它们在放大效应和网络核心位置中的作用。
• 综合推理欺骗的原因，包括人类易受影响、回声室效应和偏见。
• 概述影响指标，包括参与度、长期性和跨平台传播。
• 将检测方法分为基于特征、基于图和传播建模三类。

实验结果

研究问题

• RQ1 网络与社交媒体上主要的虚假信息类型与意图是什么？
• RQ2 传播虚假信息的主要主体是谁，它们如何在大规模上运作？
• RQ3 哪些因素解释读者为何相信并传播虚假信息？
• RQ4 跨平台虚假信息的测量影响和传播模式是什么？
• RQ5 存在哪些检测方法，它们如何被分类和评估？

主要发现

• 虚假信息可能具有深远且广泛的传播影响，且有时存活时间很长。
• 人类在区分虚假信息方面并不特别有效，即使信息写得很好或有引用。
• Bots 和 sockpuppets 在营造表观共识和加速传播方面发挥关键作用，尽管人类账户也推动了相当大比例的虚假信息动态。
• 回声室效应和确认偏差促进了虚假信息的传播和感知可信度。
• 在基于特征、基于图和传播建模范式中存在实现高准确率的检测方法。