[论文解读] FR-Detect: A Multi-Modal Framework for Early Fake News Detection on Social Media Using Publishers Features

Ali Jarrahi, Leila Safari|arXiv (Cornell University)|Sep 10, 2021

Misinformation and Its Impacts参考文献 46被引用 6

一句话总结

FR-Detect 是一种用于社交媒体上早期虚假新闻检测的多模态深度学习框架，该框架利用与发布者相关的特征——活动可信度（Activity Credibility）和影响力（Influence）——以及文本内容表征。通过将这些与用户相关的特征与基于卷积神经网络（CNN）的句子级文本编码相结合，该模型相较于仅依赖内容的基线模型，检测准确率最高提升13%，F1分数最高提升29%。

ABSTRACT

In recent years, with the expansion of the Internet and attractive social media infrastructures, people prefer to follow the news through these media. Despite the many advantages of these media in the news field, the lack of any control and verification mechanism has led to the spread of fake news, as one of the most important threats to democracy, economy, journalism and freedom of expression. Designing and using automatic methods to detect fake news on social media has become a significant challenge. In this paper, we examine the publishers' role in detecting fake news on social media. We also suggest a high accurate multi-modal framework, namely FR-Detect, using user-related and content-related features with early detection capability. For this purpose, two new user-related features, namely Activity Credibility and Influence, have been introduced for publishers. Furthermore, a sentence-level convolutional neural network is provided to combine these features with latent textual content features properly. Experimental results have shown that the publishers' features can improve the performance of content-based models by up to 13% and 29% in accuracy and F1-score, respectively.

研究动机与目标

• 为应对社交媒体平台上因缺乏验证机制而导致的虚假新闻威胁日益加剧的问题。
• 通过整合发布者层面的行为与影响力特征，提升虚假新闻的早期检测能力。
• 开发一种有效的多模态框架，实现用户相关特征与内容相关特征的融合。
• 通过引入发布者可信度指标，提升基于内容的虚假新闻检测模型性能。

提出的方法

• 提出两种新型的发布者特定特征：活动可信度（衡量发布的一致性与频率）和影响力（评估发布者内容的传播范围与互动程度）。
• 使用句子级别的卷积神经网络（CNN）提取并整合新闻内容中的潜在文本特征。
• 通过多模态融合机制，将新定义的发布者特征与深度文本表征相结合。
• 使用标注了真实与虚假新闻的训练数据集，端到端训练 FR-Detect 模型，以优化早期检测性能。
• 采用注意力机制或拼接策略，对齐并加权文本特征与发布者特征的贡献。

实验结果

研究问题

• RQ1 发布者层面的特征（如活动可信度与影响力）是否能提升早期虚假新闻检测的性能？
• RQ2 在多模态深度学习框架中，用户相关特征与内容相关特征的融合在虚假新闻检测中的有效性如何？
• RQ3 发布者特征在多大程度上能提升基于内容的检测模型的准确率与F1分数？
• RQ4 所提出的 FR-Detect 框架是否在早期检测能力上优于当前最先进的方法？

主要发现

• 与仅依赖内容的模型相比，引入发布者特征后，检测准确率最高提升13%。
• 当集成发布者特征后，检测模型的F1分数最高提升29%。
• 所提出的框架展现出强大的早期检测能力，能够在虚假新闻初始传播阶段即被识别。
• 活动可信度与影响力等发布者特征被证实是新闻可靠性的重要指标。
• 文本特征与发布者特征的多模态融合在准确率与F1分数上均优于单模态基线模型。