[논문 리뷰] Unveiling and Mitigating Bias in Mental Health Analysis with Large Language Models

Yuqing Wang, Yun Zhao외 5명|arXiv (Cornell University)|2024. 06. 17.

Mental Health via WritingPsychology인용 수 3

한 줄 요약

이 연구는 심리 건강 분석을 위한 대규모 언어 모델(LM)의 편향을 일곱 가지 사회적 요인에 걸쳐 체계적으로 평가하고 완화하는 데 초점을 맞추며, 열 종류의 LLM과 여덟 종류의 다양한 데이터셋을 활용한다. 연구 결과, GPT-4는 성능과 공정성의 균형을 가장 잘 달성했으며, 더 큰 모델일수록 편향이 감소했고, 공정성 인식 프롬프트는 특히 소수자 정체성인 종교 및 국적과 같은 집단에서의 격차를 효과적으로 줄였다.

ABSTRACT

The advancement of large language models (LLMs) has demonstrated strong capabilities across various applications, including mental health analysis. However, existing studies have focused on predictive performance, leaving the critical issue of fairness underexplored, posing significant risks to vulnerable populations. Despite acknowledging potential biases, previous works have lacked thorough investigations into these biases and their impacts. To address this gap, we systematically evaluate biases across seven social factors (e.g., gender, age, religion) using ten LLMs with different prompting methods on eight diverse mental health datasets. Our results show that GPT-4 achieves the best overall balance in performance and fairness among LLMs, although it still lags behind domain-specific models like MentalRoBERTa in some cases. Additionally, our tailored fairness-aware prompts can effectively mitigate bias in mental health predictions, highlighting the great potential for fair analysis in this field.

연구 동기 및 목표

• 성별, 연령, 종교, 성적 지향성 등의 다양한 사회적 요인에서 정신 건강 예측에 있어 LLM의 공정성 격차를 조사하기 위해.
• 일반 목적 및 도메인 전용 모델을 포함한 열 종류의 LLM이 여덟 종류의 정신 건강 데이터셋에서 성능과 공정성 측면에서 평가되기 위해.
• LLM 기반 정신 건강 분석에서 편향을 완화하는 공정성 인식 프롬프트 전략을 개발하고 검증하기 위해.
• 모델 규모와 공정성 간의 관계를 조사하여 기존의 성능-공정성 트레이드오프 개념을 도전하기 위해.
• 정신 건강 응용 분야에서 고위험 상황에 LLM을 윤리적으로 구현하기 위한 실질적 통찰을 제공하기 위해.

제안 방법

• 인구 통계적 강화: 사회적 요인(예: 성별, 종교)을 LLM 프롬프트에 통합하여 각 데이터 샘플에 대해 60개의 고유한 변형을 생성하여 편향 평가를 수행하였다.
• 제로샷 표준 프롬프팅과 피셔샷 체인오브Thought(CoT) 프롬프팅을 사용하여 여덟 종류의 정신 건강 데이터셋에서 열 종류의 LLM(GPT-4, Llama3, MentaLLama 등)을 평가하였다.
• 관찰된 편향 패턴을 바탕으로 공정성 인식 프롬프트를 제안하여 모델 예측의 격차를 능동적으로 완화하였다.
• 집계 및 분류 평가를 수행하여 인구 통계적 하위군별 성능 및 공정성을 측정하였다.
• 모델의 공정성 평가를 위해 임상적 공정성 지표인 동등 기회(EO) 점수를 사용하였다.
• 수동 오류 분석을 수행하여 LLM 출력에서 반복적으로 발생하는 문제, 예를 들어 정서 판단 오류 및 모호성 등을 특정하였다.

실험 결과

연구 질문

• RQ1 LLM이 다양한 인구 통계적 집단에서 정신 건강 분석에 있어 얼마나 편향된 예측을 보이며?
• RQ2 모델 규모는 정신 건강 예측 작업에서 공정성과 성능에 어떤 영향을 미치는가?
• RQ3 피셔샷 체인오브Thought 프롬프팅은 LLM 기반 정신 건강 분석에서 성능과 공정성을 모두 향상시킬 수 있는가?
• RQ4 공정성 인식 프롬프트는 다양한 LLM과 인구 통계적 하위군에서 편향을 얼마나 효과적으로 줄일 수 있는가?
• RQ5 LLM이 민감한 정신 건강 콘텐츠를 처리하는 데 있어 지속적인 한계는 무엇이며, 특히 소수자 정체성을 가진 개인에게서 나타나는가?

주요 결과

• GPT-4는 일반 목적 LLM 중에서 성능과 공정성의 균형을 가장 잘 달성했지만, 일부 작업에서는 도메인 전용 모델인 MentalRoBERTa에 비해 성능이 열등했다.
• 더 큰 LLM은 낮은 편향 수준을 보였으며, 기존의 성능-공정성 트레이드오프 개념을 도전하였고, 다양한 집단의 표현이 향상되어 규모가 공정성 향상에 기여할 수 있음을 시사했다.
• 피셔샷 체인오브Thought 프롬프팅은 성능과 공정성 양쪽 모두를 향상시켰으며, 이는 추론 및 맥락적 신호가 정신 건강 맥락에서 모델의 강건성을 높인다는 것을 시사한다.
• 공정성 인식 프롬프트는 평가된 모든 LLM에서 편향을 크게 감소시켰으며, 규모에 관계없이 효과적인 타겟팅된 프롬프트 전략이 편향 완화에 효과적임을 입증했다.
• LLM은 성별과 연령에 대해 더 강한 성능를 보였지만, 종교와 국적에 대해서는 어려움을 겪었으며, 이는 덜 대표되는 정체성에 대한 지속적인 격차를 시사한다.
• 수동 오류 분석을 통해 정서 판단 오류 및 복잡한 정서적 또는 문화적 뉘앙스를 지닌 텍스트에서의 모호성과 같은 반복적인 문제를 확인하였다.