[论文解读] Unveiling and Mitigating Bias in Mental Health Analysis with Large Language Models

Yuqing Wang, Yun Zhao+5 more|arXiv (Cornell University)|Jun 17, 2024

Mental Health via WritingPsychology被引用 3

一句话总结

本研究系统性地评估并缓解了大型语言模型（LLMs）在心理健康分析中因七种社会因素导致的偏见，使用了十种LLM和八个多样化数据集。研究发现，GPT-4在公平性与性能之间实现了最佳平衡，更大的模型表现出更低的偏见，且公平性感知提示（fairness-aware prompting）能有效减少不同人口群体间的差异，尤其对宗教和国籍等代表性不足的身份群体效果显著。

ABSTRACT

The advancement of large language models (LLMs) has demonstrated strong capabilities across various applications, including mental health analysis. However, existing studies have focused on predictive performance, leaving the critical issue of fairness underexplored, posing significant risks to vulnerable populations. Despite acknowledging potential biases, previous works have lacked thorough investigations into these biases and their impacts. To address this gap, we systematically evaluate biases across seven social factors (e.g., gender, age, religion) using ten LLMs with different prompting methods on eight diverse mental health datasets. Our results show that GPT-4 achieves the best overall balance in performance and fairness among LLMs, although it still lags behind domain-specific models like MentalRoBERTa in some cases. Additionally, our tailored fairness-aware prompts can effectively mitigate bias in mental health predictions, highlighting the great potential for fair analysis in this field.

研究动机与目标

• 调查在心理健康预测中，基于性别、年龄、宗教和性取向等多样化社会因素，LLMs在公平性方面存在的差异。
• 在八个心理健康数据集中，评估十种LLM（包括通用型和领域专用模型）的性能与公平性。
• 开发并验证公平性感知提示策略，以减轻基于LLM的心理健康分析中的偏见。
• 探讨模型规模与公平性之间的关系，挑战传统的性能-公平性权衡观念。
• 为高风险心理健康应用中LLM的伦理化部署提供可操作的见解。

提出的方法

• 人口统计学增强：在LLM提示中注入社会因素（如性别、宗教）以创建每个数据样本的60种独特变体，用于偏见评估。
• 使用零样本标准提示和 few-shot Chain-of-Thought（CoT）提示，在八个心理健康数据集中评估十种LLM（如GPT-4、Llama3、MentaLLama）。
• 基于观察到的偏见模式，提出公平性感知提示，主动减轻模型预测中的差异。
• 开展聚合评估与分层评估，以衡量不同人口子群体的性能与公平性。
• 使用临床公平性指标（如等机会性（EO）得分）评估模型的公平性。
• 进行人工错误分析，识别出如情感误判和LLM输出模糊性等持续性问题。

实验结果

研究问题

• RQ1 LLMs在心理健康分析中，对多样化人口群体的预测偏见程度如何？
• RQ2 模型规模在心理健康预测任务中的公平性与性能方面产生何种影响？
• RQ3 few-shot Chain-of-Thought提示能否同时提升基于LLM的心理健康分析的性能与公平性？
• RQ4 公平性感知提示在减少不同LLM和人口子群体中的偏见方面效果如何？
• RQ5 LLMs在处理敏感心理健康内容方面存在哪些持续性局限，特别是对代表性不足的身份群体？

主要发现

• 在通用型LLM中，GPT-4在性能与公平性之间实现了最佳综合平衡，尽管在某些任务上仍不及领域专用模型（如MentalRoBERTa）的表现。
• 更大的LLM表现出更低的偏见水平，挑战了传统的性能-公平性权衡观念，表明规模的提升可通过更充分地表征多样化群体而增强公平性。
• few-shot Chain-of-Thought提示同时提升了性能与公平性，表明推理过程与上下文线索能增强LLM在心理健康场景下的鲁棒性。
• 公平性感知提示显著降低了所有评估过的LLM中的偏见，无论其规模大小，证明了针对性提示策略在偏见缓解方面的有效性。
• LLM在性别和年龄方面表现较强，但在宗教和国籍方面表现较弱，表明对代表性不足身份群体仍存在持续性差异。
• 人工错误分析揭示了反复出现的问题，如情感误判和模糊性，尤其在含有复杂情感或文化细微差别的文本中更为明显。