[논문 리뷰] CultureLLM: Incorporating Cultural Differences into Large Language Models
CultureLLM은 World Values Survey 시드와 의미 기반 데이터 증강을 활용한 비용 효율적인 파인튜닝 접근법을 제안하여 문화적 차이를 LLM에 통합하고, 다국어 및 다양한 작업에서 문화 인식 성능을 강하게 달성합니다.
Large language models (LLMs) are reported to be partial to certain cultures owing to the training data dominance from the English corpora. Since multilingual cultural data are often expensive to collect, existing efforts handle this by prompt engineering or culture-specific pre-training. However, they might overlook the knowledge deficiency of low-resource culture and require extensive computing resources. In this paper, we propose CultureLLM, a cost-effective solution to incorporate cultural differences into LLMs. CultureLLM adopts World Value Survey (WVS) as seed data and generates semantically equivalent training data via the proposed semantic data augmentation. Using only 50 seed samples from WVS with augmented data, we fine-tune culture-specific LLMs and one unified model (CultureLLM-One) for 9 cultures covering rich and low-resource languages. Extensive experiments on 60 culture-related datasets demonstrate that CultureLLM significantly outperforms various counterparts such as GPT-3.5 (by 8.1%) and Gemini Pro (by 9.5%) with comparable performance to GPT-4 or even better. Our human study shows that the generated samples are semantically equivalent to the original samples, providing an effective solution for LLMs augmentation. Code is released at https://github.com/Scarelette/CultureLLM.
연구 동기 및 목표
- 다양한 문화 가치를 파인튜닝에 통합하여 LLM의 문화적 편향을 줄인다.
- 의미적으로 동등한 학습 샘플을 생성하는 비용 효율적인 데이터 증강 파이프라인을 개발한다.
- 고자원 및 저자원 문화 모두를 커버하기 위해 문화 특화 모델과 통합 모델을 미세 조정한다.
제안 방법
- 7개 주제를 다루는 World Values Survey(WVS)에서 50개의 시드 샘플을 문화적 시드로 선정한다.
- 의미 템플릿 생성 및 원본 샘플 생성을 포함하는 의미 기반 데이터 증강을 통해 의미상 동등한 학습 샘플을 생성한다.
- 시드 및 증강 데이터를 사용하여 문화 특화 LLM들(CultureLLM-Ar, CultureLLM-Tr 등)과 통합 CultureLLM-One을 미세 조정한다.
- 9개 문화에 걸친 60개의 문화 관련 테스트 세트(68,672샘플)에 대해 GPT-3.5, Gemini Pro, GPT-4 기본 모델로 평가한다.
- BBH 및 GSM8K에서 개방형 생성 능력을 조사하고 파국적 망각에 대한 저항성을 평가한다.

실험 결과
연구 질문
- RQ1문화적 차이를 LLM에 얼마나 효율적이고 저비용으로 내재화할 수 있는가?
- RQ2의미 기반 데이터 증강이 문화 간 의미적으로 동등하고 다양한 학습 샘플을 생성하는가?
- RQ3문화 특화 및 통합 CultureLLM이 다언어에 걸친 문화 관련 작업에서 강력한 기본모델을 능가하는가?
- RQ4문화 데이터로 미세 조정할 때 파국적 망각의 증거가 있는가?
- RQ5CultureLLM이 오픈소스 LLM 및 개방형 생성 작업으로 확장될 수 있는가?
주요 결과
- CultureLLM은 60개 문화 관련 데이터셋에서 평균 F1 기준 GPT-3.5보다 8.1%, Gemini Pro보다 9.5% 더 우수하다.
- CultureLLM-One은 GPT-4 성능에 근접하며 작업 전반에서 경쟁력이 있지만, 문화 특화 모델이 더 뛰어나다.
- 500개의 증강 샘플로 미세 조정하는 것이 성능과 일반화의 최적 균형을 제공하며, 더 많은 샘플은 정확도를 떨어뜨릴 수 있다.
- 인간 평가에서 시드 샘플과 증강 샘플 간 의미적 동등성이 평균 96.5%로 나타났다.
- CultureLLM은 BBH와 GSM8K에서 파국적 망각에 대한 저항성을 보이며 일반적 추론 능력을 향상시킬 수 있다.

이 논문 읽기
누빈트 뷰어에서 원문을 열고, 읽으면서 궁금한 곳을 바로 물어보세요.
누빈트에서 이 논문 읽기이 리뷰는 AI가 논문 원문을 바탕으로 만들었습니다. 인용하기 전에 원문을 확인해 주세요.