[论文解读] Exploiting Tri-Relationship for Fake News Detection.

Kai Shu, Suhang Wang+1 more|arXiv (Cornell University)|Dec 20, 2017

Misinformation and Its Impacts参考文献 15被引用 107

一句话总结

本文提出 TriFN，一种利用发布者偏见、新闻立场与社交媒体用户参与度之间三重关系的虚假新闻检测框架。通过同时建模这三个相互依赖的因素，该方法显著提升了虚假新闻检测性能，其有效性在两个新构建的真实世界数据集上得到验证。

ABSTRACT

Social media for news consumption is becoming popular nowadays. The low cost, easy access and rapid information dissemination of social media bring benefits for people to seek out news timely. However, it also causes the widespread of fake news, i.e., low-quality news pieces that are intentionally fabricated. The fake news brings about several negative effects on individual consumers, news ecosystem, and even society trust. Previous fake news detection methods mainly focus on news contents for deception classification or claim fact-checking. Recent Social and Psychology studies show potential importance to utilize social media data: 1) Confirmation bias effect reveals that consumers prefer to believe information that confirms their existing stances; 2) Echo chamber effect suggests that people tend to follow likeminded users and form segregated communities on social media. Even though users' social engagements towards news on social media provide abundant auxiliary information for better detecting fake news, but existing work exploiting social engagements is rather limited. In this paper, we explore the correlations of publisher bias, news stance, and relevant user engagements simultaneously, and propose a Tri-Relationship Fake News detection framework (TriFN). We also provide two comprehensive real-world fake news datasets to facilitate fake news research. Experiments on these datasets demonstrate the effectiveness of the proposed approach.

研究动机与目标

• 为应对社交媒体平台上虚假新闻传播日益严峻的挑战。
• 探究社交媒体参与度数据——超越新闻内容本身——如何提升虚假新闻检测效果。
• 将发布者偏见、新闻立场与用户参与度之间的相互作用建模为统一的检测框架。
• 提供两个全面的真实世界数据集，以支持未来在虚假新闻检测领域的研究。

提出的方法

• 提出一种三重关系虚假新闻检测框架（TriFN），联合建模发布者偏见、新闻立场与用户参与度。
• 利用社交媒体数据捕捉用户参与模式，包括点赞、分享和转发，作为社会认可的指标。
• 通过分析用户与新闻立场及发布者立场的一致性，整合确认偏误与回音室效应。
• 采用多模态学习架构，整合文本内容、立场分类与社交参与信号。
• 利用真实世界的社交媒体互动，基于用户行为模式推断新闻的可信度。
• 应用监督学习技术，基于三个关系维度对模型进行训练，使用标注的虚假与真实新闻样本。

实验结果

研究问题

• RQ1 发布者偏见、新闻立场与用户参与度如何共同影响虚假新闻检测性能？
• RQ2 社交媒体参与度数据在多大程度上能超越基于内容的方法提升虚假新闻检测效果？
• RQ3 建模发布者偏见、立场与参与度之间的三重关系能否带来更鲁棒的检测系统？
• RQ4 确认偏误与回音室等心理效应在与虚假新闻相关的社交媒体参与模式中如何体现？

主要发现

• 与仅基于内容的基线模型相比，TriFN 框架在虚假新闻检测准确率上实现了显著提升。
• 整合社交媒体参与度数据通过捕捉可信度的行为信号，增强了检测性能。
• 发布者偏见与新闻立场的整合提升了模型识别有组织虚假信息传播活动的能力。
• 用户参与度模式与新闻真实性表现出强相关性，支持在检测中使用社交信号。
• 新构建的两个真实世界数据集为训练和评估虚假新闻检测模型提供了多样化且真实的样本。
• 由于采用多维度方法，该模型在不同新闻主题和社交媒体平台上均表现出强鲁棒性。