[论文解读] On Analyzing Antisocial Behaviors Amid COVID-19 Pandemic

Md. Rabiul Awal, Rui Cao+2 more|arXiv (Cornell University)|Jul 21, 2020

Hate Speech and Cyberbullying Detection参考文献 32被引用 6

一句话总结

本文提出了一种结合词典匹配与 Google 的 Perspective API 的自动化标注框架，用于标注超过 4000 万条与新冠疫情相关的推文中的反社会行为。研究识别出新的攻击性词汇、易受害群体以及由事件驱动的有害内容激增现象，为未来研究提供了公开发布的数据集。

ABSTRACT

The COVID-19 pandemic has developed to be more than a bio-crisis as global news has reported a sharp rise in xenophobia and discrimination in both online and offline communities. Such toxic behaviors take a heavy toll on society, especially during these daunting times. Despite the gravity of the issue, very few studies have studied online antisocial behaviors amid the COVID-19 pandemic. In this paper, we fill the research gap by collecting and annotating a large dataset of over 40 million COVID-19 related tweets. Specially, we propose an annotation framework to annotate the antisocial behavior tweets automatically. We also conduct an empirical analysis of our annotated dataset and found that new abusive lexicons are introduced amid the COVID-19 pandemic. Our study also identified the vulnerable targets of antisocial behaviors and the factors that influence the spreading of online antisocial content.

研究动机与目标

• 为解决在新冠疫情背景下研究在线反社会行为时存在的关键研究空白，特别是鉴于标注数据集的稀缺性。
• 开发一种自动化、可扩展的标注框架，能够对大规模社交媒体内容中的反社会行为（如仇恨言论和冒犯性语言）进行标注。
• 对疫情期间在线话语中反社会行为的性质、目标对象及传播模式进行实证分析。
• 发布一个大规模、公开可用且经过精心标注的新冠疫情背景下反社会行为数据集，以支持未来研究。

提出的方法

• 通过基于关键词的爬取与时间过滤，收集超过 4000 万条与新冠疫情相关的 Twitter 推文。
• 提出一种自动化标注框架，整合基于词典的方法以匹配已知的反社会侮辱性词汇和短语，并结合预训练的毒性分类器（Google 的 Perspective API）。
• 将两种方法的输出结果合并，生成数据集中反社会内容的最终共识标注。
• 利用标注后的数据集进行实证分析，重点关注语言模式、目标人群特征以及反社会内容的时间动态。
• 进行统计与时间序列分析，识别反社会行为的激增现象，并将其与现实世界事件相关联。

实验结果

研究问题

• RQ1 在新冠疫情背景下，线上话语中出现了哪些语言模式以及新的攻击性词汇？
• RQ2 在疫情期间，社交媒体中反社会行为的主要目标是谁？
• RQ3 现实世界事件如何影响社交媒体上反社会内容的时间传播与强度？
• RQ4 哪些因素（如转发或政治言论）促成了有毒内容的快速扩散？

主要发现

• 研究识别出在疫情期间线上话语中出现了新的攻击性词汇，尤其针对特定国籍和政治人物。
• 中国群体是种族主义和歧视性内容的主要目标，尤其是在疫情初期阶段。
• 反社会内容表现出显著的时间激增现象，其中一些显著的峰值与重大政治事件相关，例如唐纳德·特朗普推广羟氯喹以及关于印度宗教集会的言论。
• Twitter 的转发功能被发现对放大和传播反社会内容起到了重要作用，尤其是在影响力较大的账号发布内容时。
• 数据显示，反社会推文的比例每日在 4% 至 9% 之间波动，而在高影响力事件期间，比例出现明显超过该范围的激增。