Skip to main content
QUICK REVIEW

[논문 리뷰] Towards Measuring the Representation of Subjective Global Opinions in Language Models

Esin Durmus, Karina Nyugen|arXiv (Cornell University)|2023. 06. 28.
Natural Language Processing TechniquesComputer Science인용 수 44
한 줄 요약

본 논문은 교차국가 설문조사로부터 GlobalOpinionQA를 구축하고 LLM 응답을 인간의 국가별 의견과 비교하는 지표를 제시하여 WEIRD 인구에 대한 편향과 프롬프트 및 언어가 표현에 미치는 영향을 밝힌다.

ABSTRACT

Large language models (LLMs) may not equitably represent diverse global perspectives on societal issues. In this paper, we develop a quantitative framework to evaluate whose opinions model-generated responses are more similar to. We first build a dataset, GlobalOpinionQA, comprised of questions and answers from cross-national surveys designed to capture diverse opinions on global issues across different countries. Next, we define a metric that quantifies the similarity between LLM-generated survey responses and human responses, conditioned on country. With our framework, we run three experiments on an LLM trained to be helpful, honest, and harmless with Constitutional AI. By default, LLM responses tend to be more similar to the opinions of certain populations, such as those from the USA, and some European and South American countries, highlighting the potential for biases. When we prompt the model to consider a particular country's perspective, responses shift to be more similar to the opinions of the prompted populations, but can reflect harmful cultural stereotypes. When we translate GlobalOpinionQA questions to a target language, the model's responses do not necessarily become the most similar to the opinions of speakers of those languages. We release our dataset for others to use and build on. Our data is at https://huggingface.co/datasets/Anthropic/llm_global_opinions. We also provide an interactive visualization at https://llmglobalvalues.anthropic.com.

연구 동기 및 목표

  • PEW GAS와 World Values Survey에서 파생된 평가용 교차국가 의견 데이터셋(GlobalOpinionQA)을 생성한다.
  • LLM 출력과 인간 응답을 비교하기 위한 국가 조건부 유사도 지표를 정의한다.
  • 기본 프롬프트, 교차국가 프롬프트, 언어 프롬프트가 글로벌 의견의 표현에 어떻게 영향을 미치는지 평가한다.
  • 특정 인구에 대한 편향과 표현에 대한 언어 및 프롬프트의 영향력을 조사한다.
  • LLMs에서 포용적 표현을 개선하기 위한 한계와 잠재적 개입책을 논의한다.

제안 방법

  • PEW GAS와 WVS Wave 7의 2,556개 객관식 문항으로 GlobalOpinionQA를 구성한다.
  • 각 문항에 대해 답변 옵션별로 모델이 예측한 확률을 기록한다.
  • 각 국가 내 응답을 평균하여 국가 수준의 인간 응답 확률을 계산한다.
  • 모델과 국가 응답 간의 유사도 지표로 1 - Jensen-Shannon Distance를 사용한다.
  • 세 가지 프롬프트 실험을 수행한다: 기본 프롬프트, 교차국가 프롬프트, 언어 프롬프트.
  • 프롬프트를 러시아어, 중국어, 터키어로 번역하여 언어 효과를 테스트하고 원어민으로부터 번역을 검증한다.
Figure 1: We compile multiple-choice questions from cross-national surveys PEW and Word Value Survey. We then administer these questions to the large language model (LLM) and compare the distributions of the model responses with the responses from participants across the world.
Figure 1: We compile multiple-choice questions from cross-national surveys PEW and Word Value Survey. We then administer these questions to the large language model (LLM) and compare the distributions of the model responses with the responses from participants across the world.

실험 결과

연구 질문

  • RQ1RLHF/헌법 AI로 조정된 LLM 응답이 PEW와 WVS가 포착한 국가별 의견과 얼마나 일치하는가?
  • RQ2프롬프트 전략(기본, 교차국가, 언어)이 모델의 다양한 국가 의견에 대한 정렬에 어떻게 영향을 미치는가?
  • RQ3프롬프트를 대상 언어로 번역하는 것이 해당 언어를 주로 사용하는 인구와의 정렬을 개선하는가?
  • RQ4특정 문화적 관점으로 모델의 의견을 유도하는 데 있어 한계와 잠재적 위해는 무엇인가?
  • RQ5다양한 글로벌 관점을 포용적으로 표현하기 위해 어떤 개입이 LLM의 표현을 개선할 수 있는가?

주요 결과

  • 기본 프롬프트은 WEIRD 인구(미국, 캐나다, 호주, 특정 유럽 및 남미 국가들)와의 유사성을 더 높게 제공한다.
  • 교차국가 프롬프트는 프롬 prompting된 국가들의 의견으로 모델 출력을 유도할 수 있지만 해로운 문화적 고정관념과 피상적 이해를 드러낼 수 있다.
  • 언어 프롬 prompting은 기대보다 응답을 덜 변화시키며, 러시아어, 중국어, 터키어로의 번역이 해당 언어 인구와의 정렬을 일관되게 높이지는 않는다.
  • 모델 생성은 글로벌 다양성을 반영하지 않는 편협한 응답에 높은 확신을 보일 수 있으며, 보정 및 표현의 차이를 시사한다.
  • 프롬 prompting의 차이는 잠재적 편향과 모델의 더 깊은 사회-맥락적 이해의 필요성을 드러낸다.
Figure 2: The responses from the LLM are more similar to the opinions of respondents from certain populations, such as the USA, Canada, Australia, some European countries, and some South American countries. Interactive visualization: https://llmglobalvalues.anthropic.com/
Figure 2: The responses from the LLM are more similar to the opinions of respondents from certain populations, such as the USA, Canada, Australia, some European countries, and some South American countries. Interactive visualization: https://llmglobalvalues.anthropic.com/

이 논문 읽기

누빈트 뷰어에서 원문을 열고, 읽으면서 궁금한 곳을 바로 물어보세요.

누빈트에서 이 논문 읽기

이 리뷰는 AI가 논문 원문을 바탕으로 만들었습니다. 인용하기 전에 원문을 확인해 주세요.