[论文解读] Towards Fine-Grained Reasoning for Fake News Detection

Yiqiao Jin, Xiting Wang+5 more|arXiv (Cornell University)|Sep 13, 2021

Misinformation and Its Impacts被引用 13

一句话总结

本文提出 FinerFact，一种用于可解释虚假新闻检测的细粒度推理框架，通过类人信息处理流程建模细微线索。它采用相互增强机制进行证据排序，并引入先验感知的双通道核图网络，以在最先进的方法之上提升准确率与可解释性。

ABSTRACT

The detection of fake news often requires sophisticated reasoning skills, such as logically combining information by considering word-level subtle clues. In this paper, we move towards fine-grained reasoning for fake news detection by better reflecting the logical processes of human thinking and enabling the modeling of subtle clues. In particular, we propose a fine-grained reasoning framework by following the human information-processing model, introduce a mutual-reinforcement-based method for incorporating human knowledge about which evidence is more important, and design a prior-aware bi-channel kernel graph network to model subtle differences between pieces of evidence. Extensive experiments show that our model outperforms the state-of-the-art methods and demonstrate the explainability of our approach.

研究动机与目标

• 解决现有虚假新闻检测模型中缺乏细粒度推理的问题，这些模型通常以粗粒度方式处理证据（例如，句子或帖子级别）。
• 通过在信息处理与推理中反映类人逻辑过程，提升模型的可解释性。
• 融入人类对证据重要性的先验知识，以指导推理并提升检测性能。
• 实现对关键区分真实与虚假新闻的细微线索（如词级别与用户级别）的建模。
• 开发一个支持高准确率与交互式模型调优的框架，以实现性能优化。

提出的方法

• 设计一个受人类信息处理模型启发的双模块细粒度推理框架：声明-证据图构建（存储子过程）与基于图的细粒度推理（检索子过程）。
• 实现一种基于相互增强的方法，通过联合优化声明-证据相关性与用户显著性来对证据进行排序，同时融入人类对证据重要性的先验知识。
• 开发一种先验感知的双通道核图网络，分别利用注意力机制与图卷积层对文本线索（词级别）和社会线索（用户级别）进行建模。
• 使用注意力分数（α 和 ρ）识别显著的词语与用户，从而实现对如 'China' 或 'conspiracy' 等细微线索的解释，这些线索可将不同证据组关联起来。
• 整合节点级预测分数（P(y=0|v,G)）与重要性权重（P(v|G,R)），以评估每个证据组的可信度，并在证据组之间传播推理过程。
• 通过允许与交互式优化方法（如 Liu et al. (2015) 所提出的）集成，实现模型调优，从而根据用户反馈调整证据排序。

实验结果

研究问题

• RQ1 能否设计一种深度学习模型，使其遵循人类的信息处理模型，以在虚假新闻检测中提升推理能力与可解释性？
• RQ2 人类对证据类型（如帖子、用户）相对重要性的知识能否被有效融入模型中以增强推理能力？
• RQ3 如何实现对细微线索（如词级别语义与用户行为模式）的细粒度建模，以提升检测准确率？
• RQ4 模型能否通过识别关键线索并基于可信度对证据组进行排序，提供可解释的预测？
• RQ5 模型在多大程度上可借助人类反馈进行调优，以改进证据解释与性能？

主要发现

• FinerFact 通过显式建模证据组之间的细粒度交互，在虚假新闻检测准确率上优于最先进方法。
• 该模型成功识别出如 'China' 和 'conspiracy' 等细微文本线索，这些线索将不同声明-证据组关联起来，揭示虚假新闻中的逻辑矛盾。
• 用户显著性较低的证据组（如具有政治偏见的用户）被赋予较低的重要性评分，而更可信、更客观的组则获得更高的权重。
• 相互增强机制通过结合声明相关性与用户可信度，有效对证据进行排序，提升了模型优先选择可信来源的能力。
• 注意力机制揭示了可解释的线索：例如，对 'property' 和 'hate' 的高注意力分数，可解释为何某些声明被判定为虚假。
• 对于与更强证据矛盾的证据组，模型赋予较低的预测置信度（接近 0.5），反映出不确定性，从而实现稳健的推理传播。