[论文解读] Mining Significant Microblogs for Misinformation Identification: An Attention-based Approach

Qiang Liu, Feng Yu+2 more|arXiv (Cornell University)|Jun 20, 2017

Misinformation and Its Impacts参考文献 41被引用 11

一句话总结

本文提出了一种基于注意力机制的模型AIM，通过内容和动态时间注意力机制筛选关键微博，实现社交媒体上的虚假信息识别。该方法通过聚焦高影响力微博，减少无关内容带来的噪声，在微博和Twitter数据集上优于最先进方法。

ABSTRACT

With the rapid growth of social media, massive misinformation is also spreading widely on social media, such as microblog, and bring negative effects to human life. Nowadays, automatic misinformation identification has drawn attention from academic and industrial communities. For an event on social media usually consists of multiple microblogs, current methods are mainly based on global statistical features. However, information on social media is full of noisy and outliers, which should be alleviated. Moreover, most of microblogs about an event have little contribution to the identification of misinformation, where useful information can be easily overwhelmed by useless information. Thus, it is important to mine significant microblogs for a reliable misinformation identification method. In this paper, we propose an Attention-based approach for Identification of Misinformation (AIM). Based on the attention mechanism, AIM can select microblogs with largest attention values for misinformation identification. The attention mechanism in AIM contains two parts: content attention and dynamic attention. Content attention is calculated based textual features of each microblog. Dynamic attention is related to the time interval between the posting time of a microblog and the beginning of the event. To evaluate AIM, we conduct a series of experiments on the Weibo dataset and the Twitter dataset, and the experimental results show that the proposed AIM model outperforms the state-of-the-art methods.

研究动机与目标

• 解决社交媒体虚假信息检测中噪声和无关微博淹没有用信号的挑战。
• 通过聚焦关键微博而非依赖全局统计特征，提升虚假信息识别能力。
• 将文本内容与时间动态整合到统一的注意力机制中，实现更优的表征学习。
• 降低异常值和低贡献微博在事件级可信度评估中的影响。
• 开发一种能通过强调关键用户贡献可靠区分虚假信息与真实信息的模型。

提出的方法

• 所提出的AIM模型采用双注意力机制：基于微博文本特征的内容注意力，以及基于事件发生时间间隔的动态注意力。
• 内容注意力通过文本嵌入计算，用于评估每条微博内容的信息量。
• 动态注意力为事件初期附近发布的微博分配更高权重，反映其在塑造事件理解中的潜在作用。
• 最终注意力权重通过结合内容注意力与动态注意力获得，使模型能够优先关注高相关性与高时效性的微博。
• 利用学习到的注意力权重对微博进行加权求和，生成用于分类的统一事件级表征。
• 模型在微博和Twitter数据集上端到端训练，注意力权重可视化以验证可解释性。

实验结果

研究问题

• RQ1 如何有效识别社交媒体事件中最具影响力的微博，以提升虚假信息检测效果？
• RQ2 结合基于内容与基于时间的注意力在多大程度上能提升虚假信息检测模型的性能？
• RQ3 注意力机制能否降低噪声和低贡献微博在事件级虚假信息分类中的影响？
• RQ4 注意力权重与人类对可信度和事件重要性的判断之间是否存在相关性？
• RQ5 所提出的模型是否能在不同社交媒体平台（如微博和Twitter）上实现良好泛化？

主要发现

• AIM模型在微博和Twitter数据集上的虚假信息检测任务中均优于最先进方法。
• 注意力权重可视化结果表明，模型正确识别出原始微博及关键质疑或事实核查信息为高度重要。
• 表达怀疑、质疑或否认事件的微博获得高注意力分数，与人类对可信信号的直觉一致。
• 事件的原始微博始终获得最高注意力权重，表明其在事件理解中具有基础性作用。
• 模型成功将荒诞但真实的故事（如一则幽默小偷轶事）分类为真实，展现出对异常内容的鲁棒性。
• 动态注意力的引入通过强调事件时间线中早期可能更具信息量的帖子，提升了模型性能。