[论文解读] CED: Credible Early Detection of Social Media Rumors

Changhe Song, Cunchao Tu+3 more|arXiv (Cornell University)|Nov 10, 2018

Misinformation and Its Impacts被引用 8

一句话总结

本文提出可信早期检测（CED），一种深度学习模型，可识别微博转发序列中最早的‘可信检测点’，以实现实时、可靠的谣言检测。通过使用基于序列的RNN架构学习微博特有的检测点，CED将预测时间缩短了85%以上，同时在准确性上优于现有的最先进基线方法。

ABSTRACT

Rumors spread dramatically fast through online social media services, and people are exploring methods to detect rumors automatically. Existing methods typically learn semantic representations of all reposts to a rumor candidate for prediction. However, it is crucial to efficiently detect rumors as early as possible before they cause severe social disruption, which has not been well addressed by previous works. In this paper, we present a novel early rumor detection model, Credible Early Detection (CED). By regarding all reposts to a rumor candidate as a sequence, the proposed model will seek an early point-in-time for making a credible prediction. We conduct experiments on three real-world datasets, and the results demonstrate that our proposed model can remarkably reduce the time span for prediction by more than 85%, with better accuracy performance than all state-of-the-art baselines.

研究动机与目标

• 解决现有谣言检测方法在预测前需要完整或固定比例转发数据的局限性。
• 通过识别可实现高可信度预测的最早时间点，实现实时、在线的谣言检测。
• 在不牺牲准确性的前提下，缩短谣言检测的时间跨度，减少快速传播的虚假信息对社会造成的危害。
• 开发一种动态、序列感知的模型，根据每个微博随时间演变的转发模式，自适应调整检测时机。

提出的方法

• CED将微博的整个转发序列建模为时间序列，将其视为时间序列输入以进行序列建模。
• 使用循环神经网络（RNN）学习随时间演变的、动态的、时间相关的转发序列表征。
• 通过在已知真实标签的序列上进行训练，模型学习每个微博的‘可信检测点’（CDP）——即预测结果稳定且不可逆的最早时间点。
• CED模型端到端训练，以最小化在CDP处的预测误差，从而确保早期预测的可信度与稳定性。
• 推理过程中，模型在达到CDP后立即停止处理，实现实时检测，无需等待完整传播完成。
• 该方法利用时间动态特性和序列建模，相比依赖完整转发数据的方法，能更早检测到谣言。

实验结果

研究问题

• RQ1 深度学习模型能否在微博转发序列中识别出一个早期、稳定的点，使得可信的谣言预测能够在此刻进行？
• RQ2 与需要完整或固定比例转发数据的现有方法相比，CED能将谣言检测提前多少时间？
• RQ3 通过CED实现的早期检测是否能保持或提升相比最先进基线方法的预测准确性？
• RQ4 哪些转发序列的特征使得早期检测可行或不可行？
• RQ5 当存在冲突或不一致的转发时，模型如何处理，这些情况是否会导致CDP识别受阻或延迟？

主要发现

• 与依赖完整或固定比例转发数据的现有方法相比，CED将预测时间跨度缩短了85%以上。
• 在三个真实世界数据集上，该模型的检测准确率高于所有最先进基线方法。
• 对于转发内容稳定、一致且相关性强的序列，可信检测点（CDP）被一致地更早识别出来。
• 对于存在冲突或无关转发的序列，CED无法识别出CDP，表明其在处理高冲突或低信号内容方面存在局限性。
• 该模型在多样化的现实世界谣言数据集上表现出强大的泛化能力和鲁棒性，证实了其在早期检测中的有效性。