[论文解读] Fake News Detection with Deep Diffusive Network Model.

Jiawei Zhang, Limeng Cui+2 more|arXiv (Cornell University)|May 22, 2018

Misinformation and Its Impacts参考文献 61被引用 76

一句话总结

该论文提出 FakeDetector，一种深度扩散网络模型，通过显式和潜在的文本特征，联合学习新闻文章、创作者和主题的表征，以提升虚假新闻检测性能。在真实世界数据集上的评估表明，该模型优于当前最先进模型，通过联合建模多主体关系，在识别欺骗性内容方面表现出色。

ABSTRACT

In recent years, due to the booming development of online social networks, fake news for various commercial and political purposes has been appearing in large numbers and widespread in the online world. With deceptive words, online social network users can get infected by these online fake news easily, which has brought about tremendous effects on the offline society already. An important goal in improving the trustworthiness of information in online social networks is to identify the fake news timely. This paper aims at investigating the principles, methodologies and algorithms for detecting fake news articles, creators and subjects from online social networks and evaluating the corresponding performance. This paper addresses the challenges introduced by the unknown characteristics of fake news and diverse connections among news articles, creators and subjects. Based on a detailed data analysis, this paper introduces a novel automatic fake news credibility inference model, namely FakeDetector. Based on a set of explicit and latent features extracted from the textual information, FakeDetector builds a deep diffusive network model to learn the representations of news articles, creators and subjects simultaneously. Extensive experiments have been done on a real-world fake news dataset to compare FakeDetector with several state-of-the-art models, and the experimental results have demonstrated the effectiveness of the proposed model.

研究动机与目标

• 为解决在线社交网络中虚假新闻检测的挑战，其中欺骗性内容传播迅速并影响社会信任。
• 建模新闻文章、创作者和主题之间复杂多样的关联关系，这些关系在现有检测方法中常被忽视。
• 开发一种自动可信度推断模型，从文本内容中捕捉显式和潜在特征，以提高检测准确性。
• 在真实世界虚假新闻数据集上，将该模型与最先进方法进行对比评估，以验证其有效性。

提出的方法

• FakeDetector 构建了一个深度扩散网络模型，通过文本特征同时学习新闻文章、创作者和主题的表征。
• 该模型从新闻内容中提取显式特征（例如，语言模式）和潜在特征（例如，深度神经网络生成的嵌入向量）。
• 通过扩散式消息传递机制建模实体之间的结构关系——即文章、创作者和主题之间的相互作用。
• 深层架构支持在多层中进行层次化特征学习，捕捉虚假新闻传播中的复杂模式。
• 该模型端到端训练，以优化可信度推断，损失函数设计用于区分真实与虚假新闻。
• 通过详细的数据分析，指导特征提取和扩散网络架构的设计，以应对虚假新闻未知的特征。

实验结果

研究问题

• RQ1 与孤立的实体分析相比，对新闻文章、创作者和主题进行联合建模在多大程度上能提升虚假新闻检测性能？
• RQ2 显式和潜在文本特征的何种组合最能捕捉虚假新闻的欺骗性特征？
• RQ3 深度扩散网络架构在多大程度上增强了可信度推断的表征学习能力？
• RQ4 FakeDetector 在真实世界社交媒体数据上检测虚假新闻时，与最先进模型相比表现如何？

主要发现

• 在真实世界数据集上，FakeDetector 在虚假新闻检测方面优于多种最先进模型。
• 对文章、创作者和主题的联合建模显著提升了检测准确率，通过捕捉实体间的关系实现。
• 显式与潜在文本特征的融合增强了模型识别欺骗性内容的能力。
• 深度扩散网络架构有效学习了对虚假新闻多样且不断演变的特征具有鲁棒性的层次化表征。
• 大量实验结果证实，所提模型能以高可靠性识别虚假新闻。
• 该模型在未见数据上表现出强大的泛化能力，表明其在社交媒体监控中具有实际部署潜力。