[论文解读] Combating Hostility: Covid-19 Fake News and Hostile Post Detection in Social Media

Omar Sharif, Eftekhar Hossain+1 more|arXiv (Cornell University)|Jan 9, 2021

Hate Speech and Cyberbullying Detection参考文献 18被引用 17

一句话总结

本文提出了一套用于检测社交媒体中与新冠相关的虚假新闻和敌意内容的机器学习与深度学习系统，采用SVM结合tf-idf，以及LPSVM结合n-gram特征，在虚假新闻检测上达到94.39%的F1分数，在敌意内容分类上达到86.03%的粗粒度F1分数。值得注意的是，微调BERT后，性能显著提升，虚假新闻检测的F1分数达到98%，敌意内容分类达到97%。

ABSTRACT

This paper illustrates a detail description of the system and its results that developed as a part of the participation at CONSTRAINT shared task in AAAI-2021. The shared task comprises two tasks: a) COVID19 fake news detection in English b) Hostile post detection in Hindi. Task-A is a binary classification problem with fake and real class, while task-B is a multi-label multi-class classification task with five hostile classes (i.e. defame, fake, hate, offense, non-hostile). Various techniques are used to perform the classification task, including SVM, CNN, BiLSTM, and CNN+BiLSTM with tf-idf and Word2Vec embedding techniques. Results indicate that SVM with tf-idf features achieved the highest 94.39% weighted $f_1$ score on the test set in task-A. Label powerset SVM with n-gram features obtained the maximum coarse-grained and fine-grained $f_1$ score of 86.03% and 50.98% on the task-B test set respectively.

研究动机与目标

• 开发自动化系统，用于检测社交媒体上与新冠大流行相关的虚假新闻和敌意内容（如仇恨言论、诽谤、冒犯性语言）。
• 应对多语言和低资源环境下敌意内容类别间存在类别不平衡与重叠特征的挑战。
• 评估传统机器学习模型（SVM、CNN、BiLSTM）与深度学习及预训练模型（如BERT）在低资源、多语言环境下的性能表现。
• 通过定性和定量的错误分析，识别分类失败的模式，特别是对代表性不足的敌意类别。
• 探索特征工程（tf-idf、Word2Vec、n-gram）和模型架构（CNN+BiLSTM）在检测短文本、非正式文本中的错误信息与敌意行为方面的有效性。

提出的方法

• 在英文（任务-A）和印地语（任务-B）文本分类中，采用SVM、CNN、BiLSTM及CNN+BiLSTM模型，结合tf-idf和Word2Vec嵌入进行特征表示。
• 在任务-B中，采用n-gram特征提取（1-3元组）和标签幂集（LP）转换，以处理多标签多分类问题。
• 在任务-B中，应用二元相关性（BR）、标签幂集（LP）和分类器链（CC）方法，对多标签问题进行转换。
• 使用验证集进行超参数调优，使用测试集进行最终性能评估，训练并评估模型。
• 在共享任务结束后，对BERT模型在任务-A和任务-B上进行微调，以评估预训练语言模型对性能的影响。
• 对误分类样本进行混淆矩阵分析和定性错误分析，以识别语言和上下文层面的挑战。

实验结果

研究问题

• RQ1 在低资源、多语言环境下，传统机器学习模型（如SVM）与深度学习模型（如CNN、BiLSTM）在检测虚假新闻和敌意内容方面的表现如何比较？
• RQ2 在短文本、非正式社交媒体文本的语境下，不同的特征提取技术（tf-idf、Word2Vec、n-gram）对分类性能有何影响？
• RQ3 为何尽管整体F1分数较高，模型在特定敌意类别（如诽谤、仇恨、冒犯性）上仍表现出较高的假阴性率？
• RQ4 在CONSTRAINT共享任务中，微调预训练语言模型（如BERT）能在多大程度上提升虚假新闻和敌意内容检测的性能？
• RQ5 哪些语言和上下文因素导致了误分类，尤其是在仇恨、冒犯性和诽谤等敌意类别存在语义重叠的情况下？

主要发现

• SVM结合tf-idf特征在任务-A（英文虚假新闻检测）的测试集上取得了最高的加权F1分数94.39%。
• 使用n-gram（1,3）特征的标签幂集SVM在任务-B（印地语敌意内容检测）上取得了最高的粗粒度F1分数86.03%和细粒度F1分数50.98%。
• 使用Word2Vec嵌入的CNN+BiLSTM模型在任务-A上取得了92.43%的加权F1分数，低于SVM基线，表明在低数据环境下深度学习模型表现欠佳。
• 在任务后微调后，BERT模型在任务-A上达到98%的F1分数，在任务-B上达到97%的粗粒度F1分数，显著优于基线模型。
• 对诽谤性、仇恨性和冒犯性内容的假阴性率较高，分别仅有25、91和108条实际帖子被正确分类（总数分别为169、134和219），表明对微妙或依赖上下文的敌意行为检测能力较差。
• 误分类主要由频繁术语如'covid19'、'vaccine'和'modi'，以及引用权威机构（如FDA、WHO）的声明所驱动，这些内容模糊了真实与虚假信息的界限，且敌意类别间存在语义重叠特征。