[论文解读] Categorising Fine-to-Coarse Grained Misinformation: An Empirical Study of COVID-19 Infodemic

Ye Jiang, Xingyi Song+3 more|arXiv (Cornell University)|Jun 22, 2021

Misinformation and Its Impacts被引用 8

一句话总结

本文引入了一个细粒度的、人工标注的1,722条关于COVID-19虚假信息的推文数据集，包含八个类别，包括相关辟谣、评论和问题等，支持虚假信息检测与社交行为分析。研究发现，虚假信息与辟谣推文的传播速率相近，且问题和评论等社交行为与虚假信息高度相关；然而，在‘排除声明’验证设置下，最先进NLP模型的性能显著下降，表明其在未见虚假信息上的泛化能力较差。

ABSTRACT

The spreading COVID-19 misinformation over social media already draws the attention of many researchers. According to Google Scholar, about 26000 COVID-19 related misinformation studies have been published to date. Most of these studies focusing on 1) detect and/or 2) analysing the characteristics of COVID-19 related misinformation. However, the study of the social behaviours related to misinformation is often neglected. In this paper, we introduce a fine-grained annotated misinformation tweets dataset including social behaviours annotation (e.g. comment or question to the misinformation). The dataset not only allows social behaviours analysis but also suitable for both evidence-based or non-evidence-based misinformation classification task. In addition, we introduce leave claim out validation in our experiments and demonstrate the misinformation classification performance could be significantly different when applying to real-world unseen misinformation.

研究动机与目标

• 为填补在COVID-19信息疫情期间与虚假信息相关社交行为（如提问、评论、辟谣）理解方面的空白。
• 开发一个细粒度的、人工标注的1,722条推文数据集，包含八个类别，以支持基于证据和非基于证据的虚假信息分类。
• 研究虚假信息传播与相关社交行为（如提问、评论和辟谣）之间的相关性。
• 在现实的‘排除声明’交叉验证设置下，评估最先进NLP模型在虚假信息分类任务中的鲁棒性。

提出的方法

• 使用信息检索管道，以IFCN已核实的虚假信息声明作为查询，提取相关推文。
• 设计了一个包含八个类别的细粒度标注方案：相关辟谣、相关虚假信息、评论、问题、相关其他、无关，以及两个用于上下文的额外类别。
• 每条推文由三位独立标注者进行三重标注，使用Krippendorff’s alpha（0.67，一致性较高）测量标注者间一致性。
• 在三个分类任务上对最先进NLP模型（如BERT_Pair）进行基准实验：非基于证据的分类、基于证据的分类以及细粒度分类。
• 采用一种新颖的‘排除声明’交叉验证策略，以模拟现实世界部署场景，即在训练过程中排除未见的声明。
• 在10个月的时间范围内进行定量分析，以研究虚假信息的演变过程及其类型。

实验结果

研究问题

• RQ1 有多少社交媒体帖子在对虚假信息声明提出问题或发表评论，这些行为是否与虚假信息的传播相关？
• RQ2 辟谣推文的数量是否与虚假信息推文的数量相关？
• RQ3 社交媒体上传播的虚假信息具有哪些不同的类别和特征？
• RQ4 最先进NLP模型在‘排除声明’验证设置下的表现与标准交叉验证相比如何？
• RQ5 评论和问题等社交行为与虚假信息及辟谣内容共现的程度如何？

主要发现

• 虚假信息和辟谣推文的传播速率相似，表明事实核查措施可能不足以在大规模上遏制虚假信息。
• 对虚假信息提出的问题和评论与虚假信息及辟谣推文均表现出强烈的正相关，表明公众对虚假声明存在积极的参与。
• 大量虚假信息推文包含来自高可信度来源的URL，表明可能存在对可靠信息的操纵或误用。
• 在‘排除声明’验证设置下，F1分数出现显著下降——尤其是‘评论’类别（F1 < 0.25），表明模型对训练声明过拟合，无法泛化到未见的虚假信息。
• ‘虚假信息’类别在两种设置下均保持相对稳定的性能（F1 ~0.43），可能因其样本量较大；而其他类别如‘问题’和‘评论’则因泛化能力差而表现不佳。
• 混淆矩阵显示，模型常将‘相关辟谣’误分类为‘辟谣’，将‘评论’误分类为‘虚假信息’，原因在于语义相似性以及评论文本中包含虚假信息内容。