[论文解读] Fake News Detection Through Graph-based Neural Networks: A Survey

Shuzhi Gong, Richard Sinnott+2 more|arXiv (Cornell University)|Jul 24, 2023

Misinformation and Its ImpactsSocial Sciences被引用 3

一句话总结

本综述全面回顾了基于图的神经网络方法在虚假新闻检测中的应用，将其分类为基于知识的方法、基于传播的方法以及基于异构社交环境的方法。该综述强调了图建模在捕捉新闻实体之间及传播结构中的复杂非欧几里得关系方面的有效性，同时指出了在可扩展性、数据质量和对抗鲁棒性方面面临的关键挑战。

ABSTRACT

The popularity of online social networks has enabled rapid dissemination of information. People now can share and consume information much more rapidly than ever before. However, low-quality and/or accidentally/deliberately fake information can also spread rapidly. This can lead to considerable and negative impacts on society. Identifying, labelling and debunking online misinformation as early as possible has become an increasingly urgent problem. Many methods have been proposed to detect fake news including many deep learning and graph-based approaches. In recent years, graph-based methods have yielded strong results, as they can closely model the social context and propagation process of online news. In this paper, we present a systematic review of fake news detection studies based on graph-based and deep learning-based techniques. We classify existing graph-based methods into knowledge-driven methods, propagation-based methods, and heterogeneous social context-based methods, depending on how a graph structure is constructed to model news related information flows. We further discuss the challenges and open problems in graph-based fake news detection and identify future research directions.

研究动机与目标

• 为应对虚假新闻在 Twitter 和 Reddit 等社交媒体平台上的快速传播对社会造成的日益增长的负面影响。
• 提供对基于图的深度学习方法在虚假新闻检测中应用的细粒度、系统性综述，这些方法在现有综述中仍相对缺乏。
• 将现有的基于图的方法分类并分析为三类：基于知识的方法、基于传播的方法以及基于异构社交环境的方法。
• 识别基于图的虚假新闻检测系统中在可扩展性、数据质量及对抗鲁棒性方面的开放性挑战。
• 通过提出有前景的研究方向，为未来研究提供指导，包括在图建模中整合外部上下文和时间动态。

提出的方法

• 根据图构建方式，将基于图的虚假新闻检测方法分为三类：基于知识的方法（利用新闻内容中的实体）、基于传播的方法（建模用户互动，如转发和回复）、以及基于异构社交环境的方法（整合多源用户和主题级上下文）。
• 利用图神经网络（GNNs），包括 GCN 和 BiGCN，对图结构数据进行编码，并生成用于分类的节点级嵌入表示。
• 通过从内部新闻内容或外部来源（如 Wikipedia）构建知识图谱，以增强事实一致性与实体间关系。
• 利用用户互动（如转发、评论）将新闻传播建模为树状或图结构，基于传播模式和用户可信度推断新闻的真实性。
• 采用归纳学习技术，利用相关新闻样本之间的关系，通过上下文聚类提升分类性能。
• 通过检索目标新闻发布时期附近可靠媒体（如 NPR、Huffington Post）的已验证新闻，整合时间与外部上下文。

实验结果

研究问题

• RQ1 基于知识的图方法在多大程度上利用内部和外部知识来提升虚假新闻检测效果？
• RQ2 基于传播的方法在多大程度上利用用户互动模式来推断新闻文章的真实性？
• RQ3 当前基于异构社交环境的方法在捕捉更广泛、动态的社会与时间上下文方面存在哪些局限性？
• RQ4 在真实场景中，基于图的模型与非图方法或混合方法相比，在性能和可扩展性方面表现如何？
• RQ5 在大规模部署基于图的虚假新闻检测系统时，面临的关键挑战是什么，特别是在数据质量、计算成本和对抗鲁棒性方面？

主要发现

• 基于图的方法显著优于仅依赖内容的传统方法，因其能够建模实体之间及传播结构中的复杂非欧几里得关系。
• 整合 Wikipedia 等外部知识源的基于知识的方法通过验证事实性陈述和解决歧义，提升了检测准确率。
• 基于传播的模型（如 BiGCN）通过分析新闻传播的结构模式表现出强劲性能，尤其在结合用户可信度特征时效果更佳。
• 基于异构社交环境的方法展现出潜力，但其局限性在于覆盖范围较窄，常无法整合更广泛的社会舆论或实时外部上下文。
• 当前数据集往往过时且缺乏多样性，尤其在面对新兴的 AI 生成内容时，这削弱了模型的泛化能力与长期可靠性。
• 对抗性攻击与模型规避问题仍研究不足，仅有少数研究探索对抗训练或传播边增强以提升鲁棒性。