[论文解读] In-Contextual Gender Bias Suppression for Large Language Models

Daisuke Oba, Masahiro Kaneko+1 more|arXiv (Cornell University)|Sep 13, 2023

Text Readability and SimplificationComputer Science被引用 3

一句话总结

本文提出一种基于提示的偏见抑制方法（bias suppression），在无需访问模型参数或进行解码干预的情况下，有效缓解大型语言模型（LLMs）中的性别偏见。通过使用精心设计的文本前情（即反事实陈述和描述性职业句），该方法在两个开源LLM中显著降低了性别偏见，同时对下游任务性能的损害极小，在COPA上最多造成5%的准确率下降，在HellaSwag上造成2–3%的下降。

ABSTRACT

Despite their impressive performance in a wide range of NLP tasks, Large Language Models (LLMs) have been reported to encode worrying-levels of gender biases. Prior work has proposed debiasing methods that require human labelled examples, data augmentation and fine-tuning of LLMs, which are computationally costly. Moreover, one might not even have access to the model parameters for performing debiasing such as in the case of closed LLMs such as GPT-4. To address this challenge, we propose bias suppression that prevents biased generations of LLMs by simply providing textual preambles constructed from manually designed templates and real-world statistics, without accessing to model parameters. We show that, using CrowsPairs dataset, our textual preambles covering counterfactual statements can suppress gender biases in English LLMs such as LLaMA2. Moreover, we find that gender-neutral descriptions of gender-biased objects can also suppress their gender biases. Moreover, we show that bias suppression has acceptable adverse effect on downstream task performance with HellaSwag and COPA.

研究动机与目标

• 解决在无法进行微调或解码干预的闭源或API可访问LLM中缓解性别偏见的挑战。
• 开发一种方法，使终端用户能够独立抑制偏见，而无需依赖模型提供方。
• 在有效降低LLM中性别偏见的同时，将对下游任务性能的负面影响降至最低。
• 探究不同类型前情（反事实与描述性）在偏见抑制和模型性能方面的影响。
• 研究该方法是否可推广至通用型LLM，且不损害其广泛适用性。

提出的方法

• 使用模板设计CF-*前情，通过与性别刻板印象相矛盾的陈述来实现，例如“尽管是男性，{male-name} 成为了{female-job}”，以抵消偏见关联。
• 设计Desc-*前情，以性别中立方式描述职业，使用三词或七词描述以评估长度影响。
• 确保各类前情在词数上保持平衡，以避免模型注意力因长度差异而产生偏差。
• 采用相对偏见得分（RBS）在Crows-Pairs基准上定量衡量性别偏见的抑制效果。
• 通过困惑度选择最佳前情对，在COPA和HellaSwag上评估下游性能。
• 将该方法应用于两个开源LLM：OpenLLaMA-7B和MPT-7B，使用标准NLP基准评估偏见与任务性能。

实验结果

研究问题

• RQ1 在无法访问模型参数的情况下，基于上下文的文本前情能否有效抑制LLM中的性别偏见？
• RQ2 反事实前情（CF-*）与描述性前情（Desc-*）在抑制性别偏见方面的能力有何差异？
• RQ3 前情长度与类型对常识推理基准中下游任务性能的影响如何？
• RQ4 通过前情实现的偏见抑制是否会导致COPA和HellaSwag等标准NLP任务上出现显著性能下降？
• RQ5 该方法是否可推广至除二元性别偏见之外的其他社会偏见类型？

主要发现

• CF-*与Desc-*前情在OpenLLaMA-7B和MPT-7B中均显著抑制了性别偏见，其效果通过相对偏见得分（RBS）得到量化验证。
• 该方法在COPA基准上最多造成5%的性能下降，在HellaSwag上造成2–3%的下降，表明对下游任务的负面影响极小。
• 出人意料的是，CF-detailed前情在HellaSwag上的表现有时甚至优于无前情（nc）基线，表明在特定情境下可能存在性能提升。
• 各类前情类型或不同数量前情之间未观察到显著性能差异，表明方法具有鲁棒性与一致性。
• 该方法在不同LLM架构（OpenLLaMA-7B与MPT-7B）中均保持有效性，表明其具有广泛适用性。
• 该方法在低资源环境下也有效，因为CF-detailed前情能为小型模型提供更清晰的上下文，从而提升推理可靠性。