[论文解读] Weak Supervision for Fake News Detection via Reinforcement Learning

Yaqing Wang, Weifeng Yang+5 more|arXiv (Cornell University)|Dec 28, 2019

Misinformation and Its Impacts参考文献 27被引用 9

一句话总结

本文提出 WeFEND，一种基于强化学习的弱监督框架，用于虚假新闻检测，利用用户举报作为弱监督信号，自动生成高质量训练数据。通过结合基于举报的标注器、基于强化学习的样本筛选器以及深度学习检测器，WeFEND 在微信新闻数据集上实现了最先进性能，且在用户举报的时间不变分布下保持一致的准确率。

ABSTRACT

Today social media has become the primary source for news. Via social media platforms, fake news travel at unprecedented speeds, reach global audiences and put users and communities at great risk. Therefore, it is extremely important to detect fake news as early as possible. Recently, deep learning based approaches have shown improved performance in fake news detection. However, the training of such models requires a large amount of labeled data, but manual annotation is time-consuming and expensive. Moreover, due to the dynamic nature of news, annotated samples may become outdated quickly and cannot represent the news articles on newly emerged events. Therefore, how to obtain fresh and high-quality labeled samples is the major challenge in employing deep learning models for fake news detection. In order to tackle this challenge, we propose a reinforced weakly-supervised fake news detection framework, i.e., WeFEND, which can leverage users' reports as weak supervision to enlarge the amount of training data for fake news detection. The proposed framework consists of three main components: the annotator, the reinforced selector and the fake news detector. The annotator can automatically assign weak labels for unlabeled news based on users' reports. The reinforced selector using reinforcement learning techniques chooses high-quality samples from the weakly labeled data and filters out those low-quality ones that may degrade the detector's prediction performance. The fake news detector aims to identify fake news based on the news content. We tested the proposed framework on a large collection of news articles published via WeChat official accounts and associated user reports. Extensive experiments on this dataset show that the proposed WeFEND model achieves the best performance compared with the state-of-the-art methods.

研究动机与目标

• 解决由于新闻内容动态且快速演变，难以及时获取高质量标注数据的挑战。
• 克服人工标注的局限性，即成本高、耗时长，且在突发新闻事件中迅速过时。
• 利用社交媒体平台（如微信）上常见的用户举报作为弱监督信号，自动扩展虚假新闻检测的训练数据。
• 构建一个框架，通过利用用户反馈的时间不变分布，在时间上保持一致的性能表现。
• 通过强化学习过滤噪声弱标签，提升虚假新闻检测器的鲁棒性与泛化能力。

提出的方法

• 训练一个标注器模型，基于用户举报信息（如‘这是假的’及解释）自动为未标注新闻文章分配弱标签（真实/虚假）。
• 采用基于深度强化学习的强化选择器，从弱标注数据中筛选高质量样本，最大限度减少噪声或错误标签的影响。
• 使用筛选出的高质量样本，通过深度神经网络基于文本内容训练虚假新闻检测器。
• 将标注器、强化选择器与检测器三个组件整合为一个端到端框架，各组件通过相互反馈持续优化。
• 将检测器的概率输出作为强化学习目标中的奖励信号，引导选择器优化样本选择过程。
• 通过对比可视化与分布分析，证明举报表示具有时间不变性，而新闻内容不具备，从而支持弱监督的稳定性。

实验结果

研究问题

• RQ1 社交媒体平台上的用户举报能否作为虚假新闻检测的可靠弱监督信号，即使举报本身存在噪声？
• RQ2 用户举报的分布是否在时间上保持稳定，从而支持对新出现新闻事件的一致弱标注？
• RQ3 基于强化学习的选择器能否有效过滤低质量弱标签，并提升虚假新闻检测器的性能？
• RQ4 WeFEND 框架在真实世界、随时间演化的新闻数据上，与最先进方法相比表现如何？
• RQ5 从用户举报中引入弱监督在多大程度上提升了检测器在不同时间段的泛化能力？

主要发现

• WeFEND 框架在大规模微信新闻数据集上实现了最先进性能，优于现有方法。
• 仅使用新闻内容时，虚假新闻检测器在同时间测试集上准确率约为 90%，在不同时期测试集上约为 70%，证实了新闻内容随时间的分布偏移。
• 基于用户举报训练的标注器在不同时间周期内保持一致性能，同时间与不同时期测试集上的准确率均约为 90%，表明基于举报的表征具有时间不变性。
• 潜在表征的可视化显示，尽管新闻内容分布随时间发生显著变化，但举报表征在不同时间集合中保持紧密聚集且难以区分，证实其稳定性。
• 消融实验表明，强化选择器显著提升了检测准确率，包含选择器的模型在训练 12 个周期后优于不包含该组件的变体。
• 该框架表明，来自用户举报的弱监督可可靠地扩展训练数据，同时保持高质量标注，即使对新出现的新闻事件也有效。