[论文解读] CultureLLM: Incorporating Cultural Differences into Large Language Models
CultureLLM 提出了一种成本效益高的微调方法,使用 World Values Survey 的种子样本和语义数据增强将文化差异融入到大型语言模型中,在多语言、多任务上实现强烈的文化感知性能。
Large language models (LLMs) are reported to be partial to certain cultures owing to the training data dominance from the English corpora. Since multilingual cultural data are often expensive to collect, existing efforts handle this by prompt engineering or culture-specific pre-training. However, they might overlook the knowledge deficiency of low-resource culture and require extensive computing resources. In this paper, we propose CultureLLM, a cost-effective solution to incorporate cultural differences into LLMs. CultureLLM adopts World Value Survey (WVS) as seed data and generates semantically equivalent training data via the proposed semantic data augmentation. Using only 50 seed samples from WVS with augmented data, we fine-tune culture-specific LLMs and one unified model (CultureLLM-One) for 9 cultures covering rich and low-resource languages. Extensive experiments on 60 culture-related datasets demonstrate that CultureLLM significantly outperforms various counterparts such as GPT-3.5 (by 8.1%) and Gemini Pro (by 9.5%) with comparable performance to GPT-4 or even better. Our human study shows that the generated samples are semantically equivalent to the original samples, providing an effective solution for LLMs augmentation. Code is released at https://github.com/Scarelette/CultureLLM.
研究动机与目标
- 通过在微调中融入多样的文化价值观来降低 LLMs 的文化偏见。
- 开发一种具有成本效益的数据增强管道,以生成语义等价的训练样本。
- 对文化特定模型和统一模型进行微调,以覆盖高资源和低资源文化。
提出的方法
- 从 World Values Survey (WVS) 中选择 50 个覆盖 7 个主题的种子样本作为文化种子。
- 通过语义数据增强生成语义等价的训练样本,包含语义模板生成和完整样本生成。
- 使用种子和增强数据微调文化特定的 LLM(例如 CultureLLM-Ar、CultureLLM-Tr)以及统一的 CultureLLM-One。
- 在 60 个与文化相关的测试集(68,672 个样本)上,采用 GPT-3.5、Gemini Pro 和 GPT-4 基线在 9 种文化上进行评估。
- 研究开放式生成能力并在 BBH 和 GSM8K 上评估对灾难性遗忘的抵抗性。

实验结果
研究问题
- RQ1如何将文化差异高效且经济地嵌入到 LLMs 中?
- RQ2语义数据增强是否能在不同文化间产生语义等价且多样化的训练样本?
- RQ3面向多语言的文化特定和统一的 CultureLLM 是否在与文化相关的任务上超过强基线?
- RQ4在对文化数据进行微调时,是否存在灾难性遗忘的证据?
- RQ5CultureLLM 是否可以扩展到开源 LLMs 和开放式生成任务?
主要发现
- CultureLLM 在 60 个与文化相关的数据集的平均 F1 上比 GPT-3.5 高出 8.1%,比 Gemini Pro 高出 9.5%。
- CultureLLM-One 的性能接近 GPT-4,在多任务上具有竞争力,尽管文化特定模型在很多任务上表现更出色。
- 使用 500 个增强样本进行微调可获得最佳的性能与泛化平衡;更多样本可能降低准确性。
- 人工评估显示种子样本与增强样本在语义等价性方面的平均一致性为 96.5%。
- CultureLLM 在 BBH 和 GSM8K 上表现出对灾难性遗忘的抵抗力并且可以提升一般推理能力。

阅读本论文
在 Nubint 阅读器中打开原文,边读边就任意段落提问。
在 Nubint 中阅读本论文本解读由 AI 根据论文原文生成,引用前请核对原文。