[论文解读] Generate, Prune, Select: A Pipeline for Counterspeech Generation against Online Hate Speech

Wanzheng Zhu, Suma Bhat|arXiv (Cornell University)|Jun 3, 2021

Hate Speech and Cyberbullying Detection参考文献 54被引用 5

一句话总结

本文提出GPS，一种三阶段流程——生成、筛选、选择——用于生成多样且相关的反仇恨言论回应。通过首先生成多个候选回应，利用BERT过滤语法错误的回应，再通过一种新颖的基于检索的方法选择最相关的回应，GPS在三个基准数据集上的自动评估与人工评估中均实现了SOTA性能，同时在多样性与相关性方面表现优异。

ABSTRACT

Countermeasures to effectively fight the ever increasing hate speech online without blocking freedom of speech is of great social interest. Natural Language Generation (NLG), is uniquely capable of developing scalable solutions. However, off-the-shelf NLG methods are primarily sequence-to-sequence neural models and they are limited in that they generate commonplace, repetitive and safe responses regardless of the hate speech (e.g., "Please refrain from using such language.") or irrelevant responses, making them ineffective for de-escalating hateful conversations. In this paper, we design a three-module pipeline approach to effectively improve the diversity and relevance. Our proposed pipeline first generates various counterspeech candidates by a generative model to promote diversity, then filters the ungrammatical ones using a BERT model, and finally selects the most relevant counterspeech response using a novel retrieval-based method. Extensive Experiments on three representative datasets demonstrate the efficacy of our approach in generating diverse and relevant counterspeech.

研究动机与目标

• 为解决现有序列到序列模型在生成既多样又与仇恨言论相关之反仇恨言论回应方面的局限性。
• 开发一种可扩展、模块化的流水线，通过将生成、过滤与选择分离为独立阶段，提升反仇恨言论回应的质量。
• 确保生成的回应避免常见、重复或无关的回复，同时保持语言质量。
• 通过在三个基准数据集上的全面评估，证明该流水线的有效性。

提出的方法

• 候选生成模块使用预训练的生成模型，为每条仇恨言论输入生成大量多样化的反仇恨言论候选回应。
• 候选筛选模块应用微调后的BERT模型，从候选池中过滤掉语法错误或质量低下的回应。
• 回应选择模块采用一种新颖的基于检索的方法，通过比较仇恨言论与筛选后候选回应之间的语义相似度，选择最相关的回应。
• 该流水线整合了三个独立阶段：生成以提升多样性，筛选以保证质量，基于检索的选择以增强相关性。
• 基于检索的选择方法利用密集向量表示，识别针对给定仇恨言论实例最符合语境的反仇恨言论回应。

实验结果

研究问题

• RQ1 与端到端的序列到序列模型相比，模块化流水线方法是否能提升反仇恨言论回应的多样性和相关性？
• RQ2 基于BERT的筛选在多大程度上能提升生成的反仇恨言论候选回应的语法质量？
• RQ3 基于检索的选择是否优于生成模型，在选择与仇恨言论语境相关的反仇恨言论回应方面表现更优？
• RQ4 在自动评估与人工评估指标方面，GPS流水线与现有方法相比表现如何？

主要发现

• GPS在三个基准数据集上均实现了SOTA性能，无论在多样性还是相关性方面，均优于现有生成模型的自动评估指标。
• 人工评估确认，GPS生成的回应显著更相关且重复性更低，优于基线模型。
• 筛选模块有效去除了语法错误的回应，提升了候选池的整体质量。
• 基于检索的选择方法成功识别出最符合语境的反仇恨言论回应，显著减少了偏离主题或无关的回应。