[논문 리뷰] Not All Countries Celebrate Thanksgiving: On the Cultural Dominance in Large Language Models

Wenxuan Wang, Wenxiang Jiao외 5명|arXiv (Cornell University)|2023. 10. 19.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 대규모 언어 모델(LM)에서 발생하는 문화적 지배 현상을 규명한다. GPT-4와 같은 모델들은 영어 문화 관련 응답을 비율적으로 더 많이 생성하는 경향이 있으며, 이는 비영어 언어로 프롬프트가 주어져도 마찬가지다. 구체적이고 추상적인 문화적 객체를 포함한 多국어 벤치마크를 활용한 연구 결과, GPT-4는 가장 강한 문화적 편향을 보이며, 비영어 데이터로 사전 훈련하는 것과 문화 인지 프롬프팅은 이 문제를 크게 완화시킨다.

ABSTRACT

This paper identifies a cultural dominance issue within large language models (LLMs) due to the predominant use of English data in model training (e.g., ChatGPT). LLMs often provide inappropriate English-culture-related answers that are not relevant to the expected culture when users ask in non-English languages. To systematically evaluate the cultural dominance issue, we build a benchmark of concrete (e.g., holidays and songs) and abstract (e.g., values and opinions) cultural objects. Empirical results show that the representative GPT models suffer from the culture dominance problem, where GPT-4 is the most affected while text-davinci-003 suffers the least from this problem. Our study emphasizes the need to critically examine cultural dominance and ethical consideration in their development and deployment. We show that two straightforward methods in model development (i.e., pretraining on more diverse data) and deployment (e.g., culture-aware prompting) can significantly mitigate the cultural dominance issue in LLMs.

연구 동기 및 목표

• 대규모 언어 모델(LM)이 주로 영어 데이터로 훈련되면서 발생하는 문화적 지배 정도를 조사하는 것.
• 특히 문화적 관련성과 정확성 측면에서, 비영어 언어로 제시된 문화 질문에 LLM이 어떻게 반응하는지 분석하는 것.
• 두 가지 완화 전략인 더 다양한 데이터로의 사전 훈련과 문화 인지 프롬프팅의 효과를 평가하는 것.
• LLM에서의 문화적 편향과 관련된 윤리적 문제를 제기하고, 더 포괄적인 모델 개발 및 배포를 촉구하는 것.
• 다양한 언어와 문화 차원(구체적 및 추상적)에서 문화적 지배를 측정할 수 있는 기준을 설정하는 것.

제안 방법

• 11개 언어에서 구체적인 문화적 객체(예: 휴일, 노래 등)에 관한 8개의 질문 세트를 포함한 다국어 벤치마크를 구축했다.
• 사회과학 분야에서 기존의 두 개의 다국어 공공 여론 조사를 통합하여 추상적인 문화적 가치와 의견을 평가했다.
• GPT-4, text-davinci-003, ChatGPT와 같은 최신 GPT 모델들을 검사하기 위해 제로샷 프롬프팅을 사용했으며, 명시적인 문화적 맥락 없이 평가했다.
• 응답의 관련성에 미치는 영향을 평가하기 위해 입력 프롬프트에 타겟 문화를 명시적으로 지정하는 문화 인지 프롬프팅을 적용했다.
• 모델을 더 다양한 비영어 데이터 분포로 사전 훈련하여, 훈련 데이터 구성이 문화적 편향에 미치는 영향을 평가했다.
• 내부 모델 파rameter에 접근할 수 없는 블랙박스 평가를 통해, 문화적 관련성과 정확성에 중점을 두고 모델 출력을 분석했다.

실험 결과

연구 질문

• RQ1 비영어 언어로 프롬프트가 주어졌을 때, LLM이 문화적으로 부적절하거나 무관한 응답을 얼마나 많이 생성하는가?
• RQ2 GPT 가족의 다양한 모델들 사이에서, 특히 GPT-4와 text-davinci-003 간에 LLM의 문화적 지배 정도는 어떻게 달라지는가?
• RQ3 더 다양한 비영어 데이터로 사전 훈련하면 LLM의 문화적 지배를 줄일 수 있는가?
• RQ4 문화 인지 프롬프팅은 LLM 응답의 문화적 관련성을 얼마나 효과적으로 향상시킬 수 있는가?
• RQ5 문화적 지배 현상은 구체적인 문화적 객체(예: 휴일)에서 더 강하게 나타나는가, 아니면 추상적인 문화적 가치(예: 정치적 의견)에서 더 강하게 나타나는가?

주요 결과

• GPT-4는 비영어 언어로 프롬프트가 주어져도 영어 문화 관련 응답의 비율이 높게 나타나 가장 강한 문화적 지배를 보였다.
• 평가된 GPT 모델들 중에서 text-davinci-003는 문화적 지배 영향을 가장 적게 받았으며, 출력의 편향이 낮다는 것을 시사한다.
• 더 다양한 비영어 데이터로 사전 훈련하면 문화적 지배가 뚜렷하게 감소했으며, 이는 데이터 구성이 문제의 근본 원인임을 시사한다.
• 문화 인지 프롬프팅은 휴일, 노래와 같은 구체적인 문화적 객체에 대해 응답의 관련성을 효과적으로 향상시켰다.
• 추상적인 문화적 가치와 의견에는 문화 인지 프롬프팅이 덜 효과적이었으며, 이는 표면적 신호를 넘어서 깊은 문화 이해가 필요하기 때문이다.
• 이 연구는 문화적 지배가 특정 지역이나 언어에 국한되지 않고, 여러 언어와 문화 차원에서 광범위하게 나타나는 문제임을 드러냈다.