[论文解读] A Federated Approach for Hate Speech Detection

Jay Gala, Deep Gandhi+2 more|arXiv (Cornell University)|Feb 18, 2023

Hate Speech and Cyberbullying Detection被引用 4

一句话总结

本文提出了一种用于仇恨言论检测的联邦学习（FL）框架，通过在去中心化的用户数据上训练模型而不传输原始文本，从而增强隐私保护，相较于集中式模型，F1得分最高提升6.81%。该方法结合FedProx与FedOpt，并在八个基准数据集上使用五种不同的模型架构进行实验，表明隐私保护训练可同时提升模型的鲁棒性与性能。

ABSTRACT

Hate speech detection has been the subject of high research attention, due to the scale of content created on social media. In spite of the attention and the sensitive nature of the task, privacy preservation in hate speech detection has remained under-studied. The majority of research has focused on centralised machine learning infrastructures which risk leaking data. In this paper, we show that using federated machine learning can help address privacy the concerns that are inherent to hate speech detection while obtaining up to 6.81% improvement in terms of F1-score.

研究动机与目标

• 为解决仇恨言论检测中隐私保护的关键缺口，即集中式训练可能暴露敏感用户内容。
• 评估联邦学习是否能在保护用户数据免遭训练过程中泄露的同时，维持或提升模型性能。
• 探究联邦学习在多种仇恨言论检测基准上，结合多样化模型架构（如Bi-LSTM、RoBERTa、FNet）的有效性。
• 利用HateCheck评估套件，评估模型在拼写变异、代词指代和对抗性措辞等挑战性条件下的泛化能力。
• 探索隐私与性能之间的权衡，表明联邦学习可带来性能提升而非损失。

提出的方法

• 本研究采用联邦学习（FL）在客户端设备上训练模型，不传输原始数据，仅共享模型权重更新。
• 采用两种联邦优化算法——FedProx与FedOpt，以处理非独立同分布（non-IID）数据并提升收敛性，其中FedProx通过添加近端正则化项来稳定训练过程。
• 使用五种机器学习模型（Bi-LSTM、FNet、DistilBERT、RoBERTa及其他）通过联邦学习进行训练，并与集中式对应模型进行比较。
• 该框架在八个公开可用的仇恨言论数据集上进行评估，包括Vidgen等人（2021年）提供的Comb、Binary及多分类数据集，在非独立同分布（non-IID）的客户端数据划分条件下进行。
• 性能通过F1得分衡量，并通过HateCheck基准进行评估，该基准测试涵盖29项功能测试，包括贬损性语言、拼写变异及反仇恨言论识别。
• 所有模型均使用FedProx与FedOpt通过联邦学习进行微调，结果在多轮训练中聚合，以评估收敛性与稳定性。

实验结果

研究问题

• RQ1 联邦学习是否能在保护用户隐私的同时，提升仇恨言论检测模型的F1得分？
• RQ2 基于联邦学习的模型在HateCheck等鲁棒性基准上的表现如何，特别是在语言存在对抗性变异的情况下？
• RQ3 与标准FedAvg相比，使用FedOpt与FedProx等先进联邦优化器是否能带来更好的收敛性与性能？
• RQ4 在联邦学习训练下，不同模型架构（如基于BERT的模型与Bi-LSTM）在性能与鲁棒性方面表现如何？
• RQ5 联邦学习模型在非仇恨表达、反仇恨言论及微妙仇恨语言形式上的泛化能力如何？

主要发现

• 联邦学习模型相较于集中式模型，F1得分最高提升6.81%，表明隐私保护训练可提升模型性能。
• 通过联邦学习训练的Bi-LSTM与FNet模型在HateCheck功能测试中表现提升3–5%，尤其在检测贬损性语言与拼写变异方面。
• RoBERTa与DistilBERT模型在识别辱骂性用语及非仇恨性群体身份表达方面表现最佳，可能得益于其在多样化文本上的大规模预训练。
• 所有模型（包括联邦模型）在反仇恨言论检测任务中表现欠佳，表明区分仇恨回应与仇恨言论仍是持久挑战。
• 联邦学习的DistilBERT与RoBERTa模型在部分HateCheck测试中出现轻微性能下降（0.5–1%），表明大型语言模型在联邦学习中可能对数据分布偏移更敏感。
• 尽管存在模型更新泄露的风险，总体结果表明联邦学习为提升仇恨言论检测中的隐私保护与模型泛化能力提供了切实可行的路径。