[논문 리뷰] Bias in Large Language Models: Origin, Evaluation, and Mitigation

Yufei Guo, Muzhe Guo외 6명|arXiv (Cornell University)|2024. 11. 16.

Natural Language Processing Techniques인용 수 13

한 줄 요약

LLMs의 내재적 및 외재적 편향에 대한 포괄적 리뷰로, 원인, 평가 방법, 데이터-모델-출력 단계 전반의 완화 전략 및 윤리적 함의를 다룸.

ABSTRACT

Large Language Models (LLMs) have revolutionized natural language processing, but their susceptibility to biases poses significant challenges. This comprehensive review examines the landscape of bias in LLMs, from its origins to current mitigation strategies. We categorize biases as intrinsic and extrinsic, analyzing their manifestations in various NLP tasks. The review critically assesses a range of bias evaluation methods, including data-level, model-level, and output-level approaches, providing researchers with a robust toolkit for bias detection. We further explore mitigation strategies, categorizing them into pre-model, intra-model, and post-model techniques, highlighting their effectiveness and limitations. Ethical and legal implications of biased LLMs are discussed, emphasizing potential harms in real-world applications such as healthcare and criminal justice. By synthesizing current knowledge on bias in LLMs, this review contributes to the ongoing effort to develop fair and responsible AI systems. Our work serves as a comprehensive resource for researchers and practitioners working towards understanding, evaluating, and mitigating bias in LLMs, fostering the development of more equitable AI technologies.

연구 동기 및 목표

• 데이터, 수집 방법, 언어 맥락에서 LLM에 내재적 및 외재적 편향이 어떻게 발생하는지 설명합니다.
• 데이터-, 모델-, 출력 수준 분석 전반에 걸친 편향 평가 방법론을 조사합니다.
• 사전-중간-사후 모델 보완책을 포함한 완화 전략과 그 트레이드오프를 요약합니다.
• 편향된 LLM의 핵심 영역에서의 윤리적 및 법적 함의를 논의합니다.

제안 방법

• 내재적 편향과 외재적 편향으로 분류하고 이를 모델 수명주기의 단계에 매핑합니다.
• 데이터 수준, 모델 수준, 출력 수준의 편향 평가 기술과 도구를 검토합니다.
• 데이터 큐레이션, 공정성 제약 및 편향 제거를 위한 사후 처리 방법을 완화 전략으로 개요합니다.
• 태스크별 예시 및 표와 함께 NLU와 NLG 태스크의 편향을 논의합니다.
• 편향된 AI 시스템 배치의 윤리적 및 법적 고려사항을 종합합니다.

실험 결과

연구 질문

• RQ1 LLM에서 내재적 편향과 외재적 편향의 원인과 표시는 무엇인가?
• RQ2 데이터-, 모델-, 출력 수준에서 LLM의 편향을 어떻게 탐지하고 정량화할 수 있는가?
• RQ3 사전-모델, 도중-모델, 사후-모델 단계에 걸친 완화 접근법은 무엇이며 한계은 무엇인가?
• RQ4 현실 세계 응용에서 편향된 LLM의 윤리적·법적 함의는 무엇인가?

주요 결과

• 내재적 편향은 편향된 데이터 소스, 수집 방법, 언어 맥락에서 학습 중에 기원합니다.
• 외재적 편향은 NLU 및 NLG의 하류 작업에서 나타나 핵심 참조, 감정, 번역 등에 영향을 미칩니다.
• 데이터 수준 편향 평가의 초점은 표현, 불균형, 데이터 소스의 품질에 있습니다.
• 완화 전략은 데이터 수준, 모델 수준, 사후 처리 방법에 걸쳐 있으며 각기 공정성과 정확도 사이의 트레이드오프가 있습니다.
• 인간 및 도메인 특화 평가를 포함한 다면적 편향 평가 접근이 강건한 공정성을 위해 권장됩니다.