[论文解读] Investigating Bias in LLM-Based Bias Detection: Disparities between LLMs and Human Perception

Luyang Lin, Lingzhi Wang+2 more|arXiv (Cornell University)|Mar 22, 2024

Forecasting Techniques and Applications被引用 20

一句话总结

本文研究大语言模型（LLMs）中固有偏见及这些偏见如何影响媒体偏见检测，考察政治偏见预测与文本续写、主题一致性、去偏策略，以及跨模型偏见倾向。

ABSTRACT

The pervasive spread of misinformation and disinformation in social media underscores the critical importance of detecting media bias. While robust Large Language Models (LLMs) have emerged as foundational tools for bias prediction, concerns about inherent biases within these models persist. In this work, we investigate the presence and nature of bias within LLMs and its consequential impact on media bias detection. Departing from conventional approaches that focus solely on bias detection in media content, we delve into biases within the LLM systems themselves. Through meticulous examination, we probe whether LLMs exhibit biases, particularly in political bias prediction and text continuation tasks. Additionally, we explore bias across diverse topics, aiming to uncover nuanced variations in bias expression within the LLM framework. Importantly, we propose debiasing strategies, including prompt engineering and model fine-tuning. Extensive analysis of bias tendencies across different LLMs sheds light on the broader landscape of bias propagation in language models. This study advances our understanding of LLM bias, offering critical insights into its implications for bias detection tasks and paving the way for more robust and equitable AI systems

研究动机与目标

• 评估 LLMs 在偏见预测和文本续写中是否表现出政治偏见。
• 检查 LLMs 在多样化主题（预定义和潜在主题）上的偏见一致性。
• 研究通过提示设计和模型微调的去偏策略及其对性能的影响。
• 对多种开源与闭源 LLMs 的偏见倾向进行比较，以理解模型在偏见行为上的差异。

提出的方法

• 使用原生 ChatGPT 在 FlipBias 与 ABP 数据集上通过三分标签任务（左、中、右、不确定）评估政治倾向。
• 对带有政治文章前缀的文章续写进行实验，并使用基于嵌入的相似度和左/右词汇匹配分析生成的后缀。
• 引入偏见倾向指数（BTI-1、BTI-2）以量化跨数据集的主题层面偏见倾向。
• 应用去偏方法，包括基于提示的解释、少-shot 提示和去偏陈述（DS），以及带有不同比例标签分布的微调（L-FT、LC-FT、LCR-FT）。
• 评估去偏对整体偏见预测和主题层面偏见分布的影响，报告如 BiF1、MaF1 及 BTI 变化等指标。
• 扩展分析至额外的 LLM（LLaMa2、Vicuna、Mistral、GPT-4）以比较不同模型的偏见倾向。

实验结果

研究问题

• RQ1 RQ1：LLMs 在偏见预测和文本续写任务中是否表现出政治偏见？
• RQ2 RQ2：LLMs 是否在主题（预定义和潜在）上表现出一致的偏见？
• RQ3 RQ3：如何去偏以进一步提升偏见检测性能？
• RQ4 RQ4：不同的 LLMs 是否在数据集和主题上表现出相似的偏见倾向？

主要发现

• LLMs 在 FlipBias 和 ABP 的政治偏见预测中呈现左倾的认知偏见，预测中左-中比例高于右-中。
• LLMs 在预测右倾的真实文章方面表现优于预测左倾的文章，暗示偏见倾向不对称。
• 文章续写实验表明，较短前缀具有左倾倾向，随着前缀长度增加，由于主题长度差异，倾向转向右倾。
• 偏见倾向指数（BTI-1、BTI-2）揭示主题相关偏见，大多数主题呈左倾倾向，但也有显著的右倾主题。
• 通过提示为基础的方法去偏（尤其是去偏陈述）将主题层面 BTI 的偏见对齐减少到接近零，而微调可以提升偏见预测指标但可能增加总体偏见。
• 不同的 LLM 展示出多样的偏见特征；某些模型表现出更强或不同的偏见方向，且模型性能与偏见强度并非严格相关。