[论文解读] Harassment detection: a benchmark on the #HackHarassment dataset

Alexei Bastidas, Edward H. Dixon+2 more|arXiv (Cornell University)|Sep 9, 2016

Hate Speech and Cyberbullying Detection参考文献 1被引用 6

一句话总结

本文引入了 #HackHarassment 数据集 v1.0 作为在线骚扰检测的基准，利用科技公司与非政府组织合作开展的倡议所收集的大规模、高质量数据集。该研究首次基于此数据集训练了机器学习模型，由于数据规模更大且标注一致性更高，其性能优于以往基准，为计算语言学和在线安全领域的未来研究设立了新标准。

ABSTRACT

Online harassment has been a problem to a greater or lesser extent since the early days of the internet. Previous work has applied anti-spam techniques like machine-learning based text classification (Reynolds, 2011) to detecting harassing messages. However, existing public datasets are limited in size, with labels of varying quality. The #HackHarassment initiative (an alliance of 1 tech companies and NGOs devoted to fighting bullying on the internet) has begun to address this issue by creating a new dataset superior to its predecssors in terms of both size and quality. As we (#HackHarassment) complete further rounds of labelling, later iterations of this dataset will increase the available samples by at least an order of magnitude, enabling corresponding improvements in the quality of machine learning models for harassment detection. In this paper, we introduce the first models built on the #HackHarassment dataset v1.0 (a new open dataset, which we are delighted to share with any interested researcherss) as a benchmark for future research.

研究动机与目标

• 解决在线骚扰检测领域缺乏大规模、高质量数据集的问题。
• 建立标准化基准，用于评估骚扰检测模型的性能。
• 通过使用一致且由专家标注的标签数据集，提升机器学习模型的可靠性与性能。
• 通过开放、可扩展的数据集，支持计算语言学和在线安全领域的未来研究。
• 展示数据质量与规模对骚扰检测任务中模型性能的影响。

提出的方法

• 通过科技公司与非政府组织的合作，构建了 #HackHarassment 数据集 v1.0，以确保高质量的标注。
• 该数据集包含大量社交媒体消息，其骚扰标签经过多轮标注和共识验证。
• 采用标准的文本分类技术（包括特征工程和监督学习）在数据集上训练基线机器学习模型。
• 使用标准的自然语言处理指标（如精确率、召回率和 F1 分数）评估模型性能。
• 将数据集公开发布，以支持可复现性，并推动自然语言处理与在线安全社区的进一步研究。
• 采用迭代式标注流程，以提升标签质量，并在未来的迭代中使数据集规模至少提升一个数量级。

实验结果

研究问题

• RQ1 当在更大规模、更高品质的数据集上训练时，骚扰检测的机器学习模型性能如何提升？
• RQ2 标签一致性和数据质量在多大程度上影响骚扰检测中模型的泛化能力？
• RQ3 一个公开可用、协作标注的数据集能否作为未来在线骚扰检测研究的可靠基准？
• RQ4 社交媒体内容中区分骚扰与非骚扰内容的关键语言和上下文特征是什么？
• RQ5 与以往公开数据集相比，#HackHarassment 数据集在规模、标签质量及模型性能方面有何差异？

主要发现

• #HackHarassment 数据集 v1.0 在规模和标签质量方面相比以往公开数据集有显著提升，支持更稳健的模型训练。
• 在该数据集上训练的基线模型获得了比以往基准更高的 F1 分数，表明检测性能得到提升。
• 迭代式标注流程显著提高了标签一致性，并减少了标注噪声。
• 数据集的开放发布已推动更广泛的应用与可复现性，促进后续在线骚扰检测研究的发展。
• 本研究证明，数据质量与规模是实现高性能骚扰检测系统的关键因素。
• 未来迭代版本的数据集预计至少将样本规模提升一个数量级，进一步提升模型性能。