[论文解读] Fake News Early Detection: A Theory-driven Model

Xinyi Zhou, Atishay Jain+2 more|arXiv (Cornell University)|Apr 26, 2019

Misinformation and Its Impacts被引用 66

一句话总结

本文提出了一种基于理论、以内容为核心的早期假新闻检测模型，采用多层次语言分析——词法、句法、语义和语用——其理论基础源自社会心理学与法医学心理学。在两个真实世界数据集上评估，该方法优于最先进方法，即使在传播数据有限的情况下也能实现准确检测。

ABSTRACT

The explosive growth of fake news and its erosion of democracy, justice, and public trust has significantly increased the demand for accurate fake news detection. Recent advancements in this area have proposed novel techniques that aim to detect fake news by exploring how it propagates on social networks. However, to achieve fake news early detection, one is only provided with limited to no information on news propagation; hence, motivating the need to develop approaches that can detect fake news by focusing mainly on news content. In this paper, a theory-driven model is proposed for fake news detection. The method investigates news content at various levels: lexicon-level, syntax-level, semantic-level and discourse-level. We represent news at each level, relying on well-established theories in social and forensic psychology. Fake news detection is then conducted within a supervised machine learning framework. As an interdisciplinary research, our work explores potential fake news patterns, enhances the interpretability in fake news feature engineering, and studies the relationships among fake news, deception/disinformation, and clickbaits. Experiments conducted on two real-world datasets indicate that the proposed method can outperform the state-of-the-art and enable fake news early detection, even when there is limited content information.

研究动机与目标

• 解决在传播数据稀缺或不可用时的早期假新闻检测挑战。
• 开发一种基于社会心理学与法医学心理学理论的可解释假新闻检测框架。
• 探究假新闻、欺骗、虚假信息与点击诱饵内容之间的关系。
• 通过将语言模式与心理机制关联，提升特征工程的可解释性。
• 仅依赖新闻内容实现鲁棒检测，无需依赖社交网络传播动态。

提出的方法

• 在四个语言层次（词法、句法、语义和语用）分析新闻内容，每个层次均基于既有的心理学理论。
• 在每个层次使用基于理论的特征表示——例如，词法层次使用情感语言，句法层次使用句法复杂度。
• 将多层次特征整合为统一表征，用于监督式机器学习分类。
• 利用欺骗与说服的心理学理论指导特征选择与解释。
• 在真实世界数据集上训练并评估监督分类器，仅基于文本内容检测假新闻。
• 通过将每个特征锚定至具体心理机制（如情感操控或叙事扭曲）确保可解释性。

实验结果

研究问题

• RQ1 基于理论的假新闻检测方法是否能在仅使用内容特征的情况下，优于最先进方法？
• RQ2 欺骗与虚假信息的心理学理论在识别假新闻早期指标方面有多大的帮助？
• RQ3 当传播数据极少或缺失时，该模型在检测假新闻方面的有效性如何？
• RQ4 在不同语言层次上，与欺骗性内容相关的独特语言模式是什么？
• RQ5 点击诱饵元素与欺骗及假新闻的关系如何？该框架能否可靠检测这些元素？

主要发现

• 所提出的模型在两个真实世界数据集上优于最先进方法，即使在内容信息有限的情况下也表现出更优的检测准确率。
• 将心理学理论融入特征工程显著提升了模型的可解释性与性能。
• 语用层次的语言特征——如叙事不一致与情感操控——对假新闻具有强大的预测能力。
• 在传播信号极少的早期场景中，该模型仍保持高检测准确率，证明其在早期检测中的有效性。
• 点击诱饵式语言模式与欺骗性内容高度相关，且被模型的多层次分析有效捕捉。
• 与现有仅基于内容的方法相比，该方法在F1-score上实现显著提升，证实其在早期检测中的有效性。