[논문 리뷰] CBBQ: A Chinese Bias Benchmark Dataset Curated with Human-AI Collaboration for Large Language Models

Yufei Huang, Deyi Xiong|arXiv (Cornell University)|2023. 06. 28.

Computational and Text Analysis Methods인용 수 5

한 줄 요약

CBBQ는 14개의 사회적 차원을 통해 중국어 대규모 언어 모델의 사회적 편향을 탐지하기 위해 설계된, 110,000개 이상의 질문을 포함한 인간-AI 협업 기반의 중국어 편향 기준 데이터셋이다. 이는 편견과 모순되는 맥락을 명확히 한 것으로, 모델의 답변과 설명을 모두 평가하여 모든 테스트된 10개의 중국어 LLM에서 강한 편향을 드러내며, 교육, 장애, 신체적 외모 등의 카테고리에서 50%를 초과하는 점수를 기록했다.

ABSTRACT

Holistically measuring societal biases of large language models is crucial for detecting and reducing ethical risks in highly capable AI models. In this work, we present a Chinese Bias Benchmark dataset that consists of over 100K questions jointly constructed by human experts and generative language models, covering stereotypes and societal biases in 14 social dimensions related to Chinese culture and values. The curation process contains 4 essential steps: bias identification via extensive literature review, ambiguous context generation, AI-assisted disambiguous context generation, snd manual review \& recomposition. The testing instances in the dataset are automatically derived from 3K+ high-quality templates manually authored with stringent quality control. The dataset exhibits wide coverage and high diversity. Extensive experiments demonstrate the effectiveness of the dataset in detecting model bias, with all 10 publicly available Chinese large language models exhibiting strong bias in certain categories. Additionally, we observe from our experiments that fine-tuned models could, to a certain extent, heed instructions and avoid generating outputs that are morally harmful in some types, in the way of "moral self-correction". Our dataset and results are publicly available at \href{https://github.com/YFHuangxxxx/CBBQ}{https://github.com/YFHuangxxxx/CBBQ}, offering debiasing research opportunities to a widened community.

연구 동기 및 목표

• 중국어 대규모 언어 모델을 위한 문화적으로 기반을 둔 종합적인 편향 평가 도구의 부족을 해결하기 위해.
• 기존의 BBQ와 같은 벤치마크가 영어 중심이며 문화적 뉘앙스를 반영하지 못하는 한계를 극복하기 위해.
• 실제 사회적 편견을 반영하는 다양한, 스케일링 가능한 고품질 데이터셋을 개발하기 위해.
• 인간의 전문성과 LLM 생성을 융합하여 강력하고 다차원적인 편향 탐지 기능을 제공하기 위해.
• 모델의 답변뿐 아니라 추론 설명까지 평가하는 표준화된 평가 프레임워크를 제공하기 위해.

제안 방법

• 데이터셋은 네 단계로 구성된다: 편향 식별을 위한 문헌 검토, 모호한 맥락 생성, LLM을 활용한 AI 보조 명확화, 수작업 검토 및 재구성.
• 명확화된 맥락은 유해한 사회적 편견과 모순되는 배경 정보만 추가하여 맥락적으로 공정한 상황을 보장한다.
• 고품질 템플릿(3,000개 이상)은 엄격한 품질 관리를 통해 수작업으로 작성되어 다양한 현실적인 테스트 인스턴스를 생성한다.
• 모델 평가는 정확한 답변과 편향 없는 설명이 모두 필요하며, 오직 완전한 준수 사례만 비편향으로 간주된다.
• LLM의 해석 능력과 행동의 일관성 결여를 고려한 수정된 평가 프로토콜을 사용한다.
• 인간-AI 협업을 통해 데이터의 다양성과 스케일링 능력을 향상시키면서도 반복적 개선을 통해 고품질을 유지한다.

실험 결과

연구 질문

• RQ1 중국어 대규모 언어 모델은 문화적으로 기반을 둔 다차원 편향 기준에서 어떻게 성과를 내는가?
• RQ2 모델가 추론 이유를 설명하도록 유도될 때, 얼마나 잘 '도덕적 자율정렬'을 보일 수 있는가?
• RQ3 답변 평가 외에 설명 생성을 포함함으로써, 편향 탐지 능력은 어떻게 향상되는가?
• RQ4 교육, 장애, 신체적 외모 등의 카테고리에서 중국어 LLM 간의 편향에 대한 민감도는 어떻게 비교되는가?
• RQ5 AI 보조 데이터 코딩이 문화적·윤리적 충실도를 유지하면서도 고품질 편향 기준 평가의 스케일링을 효과적으로 가능하게 하는가?

주요 결과

• 테스트된 10개의 공개된 중국어 LLM 모두가 심각한 편향을 보이며, 교육 자격, 질병, 장애, 신체적 외모 등의 핵심 카테고리에서 편향 점수가 50%를 초과한다.
• GPT-3.5-turbo는 모든 모델 중에서 가장 낮은 편향 점수를 기록하여 공정성 원칙에 더 잘 부합하는 것으로 나타났다.
• 微fine-tuning된 모델들은 '도덕적 자율정렬'의 징후를 보였으며, 답변의 정당성을 설명하도록 요구받을 경우 유해한 출력을 줄였다.
• 평가에 설명 생성을 포함시킴으로써 편향된 추론 탐지 능력이 크게 향상되었으며, 답변 전용 평가에서는 드러나지 않았던 일관성 없는 요소들이 드러났다.
• 인간-AI 협업 파이프라인은 중국 사회에 강한 문화적 관련성을 지닌 110,000개 이상의 다양한 고품질 인스턴스를 성공적으로 생성했다.
• 벤치마크는 모델가 특히 건강 및 교육과 같은 민감한 분야에서 정의된 공정성 원칙을 유도해도 성별에 기반한 편견적 가정에 의존하는 경향이 있음을 드러냈다.