[论文解读] See It from My Perspective: How Language Affects Cultural Bias in Image Understanding

Amith Ananthram, Elias Stengel-Eskin+2 more|arXiv (Cornell University)|Jun 17, 2024

Language, Metaphor, and CognitionPsychology被引用 3

一句话总结

本文诊断了当前先进视觉语言模型（VLMs）中的西方文化偏见，表明其在客观和主观任务中对西方文化图像的性能显著优于东方文化图像。该偏见源于语言预训练的不平衡——使用了更多的英语而非中文等非英语语言，而更均衡的语言预训练混合则能减少偏见，即使推理时使用英语提示也是如此；若使用中文进行提示，偏见进一步减轻，尤其当中文在预训练阶段已充分代表时，效果更显著。

ABSTRACT

Vision-language models (VLMs) can respond to queries about images in many languages. However, beyond language, culture affects how we see things. For example, individuals from Western cultures focus more on the central figure in an image while individuals from East Asian cultures attend more to scene context. In this work, we characterize the Western bias of VLMs in image understanding and investigate the role that language plays in this disparity. We evaluate VLMs across subjective and objective visual tasks with culturally diverse images and annotations. We find that VLMs perform better on the Western split than on the East Asian split of each task. Through controlled experimentation, we trace one source of this bias in image understanding to the lack of diversity in language model construction. While inference in a language nearer to a culture can lead to reductions in bias, we show it is much more effective when that language was well-represented during text-only pre-training. Interestingly, this yields bias reductions even when prompting in English. Our work highlights the importance of richer representation of all languages in building equitable VLMs.

研究动机与目标

• 调查最先进的视觉语言模型（VLMs）在图像理解中是否表现出文化偏见，特别是更偏好西方而非东方的视觉视角。
• 确定纯文本预训练中语言分布如何影响VLM在多模态理解中的文化偏见。
• 评估使用非英语语言（如中文）进行提示是否能减少VLM中的西方偏见。
• 比较多语言预训练与多语言提示在减轻VLM文化偏见方面的有效性。
• 分析当目标语言在预训练阶段充分代表时，偏见减少是否更有效，相较于在推理阶段使用该语言。

提出的方法

• 在文化多样化的图像理解任务上评估多个现成的VLM（如LLaVA变体），将数据划分为西方和东方子集。
• 使用仅英语或英语/中文混合语料（2T token）预训练的Llama2和Baichuan2 LLM作为基础，结合CLIP视觉编码器进行微调，训练基于LLaVA的VLM。
• 在三项任务中测量西方与东方图像子集之间的性能差异：物体识别、问题回答和艺术情感分类。
• 通过使用英语或中文进行提示，开展受控实验，评估语言对偏见减少的影响。
• 使用logit lens探测分析隐藏表征，评估模型是否内化了特定文化背景的视觉关联，尤其是中文语境下的关联。
• 比较在单语和双语文本语料上预训练的模型结果，以及使用单语和双语文本语料进行多模态融合的结果。

Figure 1 : Whose perspective do VLMs model? Despite being multilingual , state-of-the-art VLMs exhibit a bias toward the imagery and perspectives of Western culture. In contrast, a more balanced language mix during text-only pre-training produces VLMs that are both multilingual and multicultural .

实验结果

研究问题

• RQ1 最先进的VLM在客观和主观任务中，其在西方与东方文化图像子集上的表现是否存在显著差异？
• RQ2 纯文本预训练中语言分布如何影响VLM在图像理解中的文化偏见？
• RQ3 使用非英语语言（如中文）进行提示能否减少VLM中的西方偏见？若能，该效应在何种条件下最强？
• RQ4 与仅使用多语言提示相比，更均衡的多语言预训练分布是否更有效地减少文化偏见？
• RQ5 在训练阶段将中文纳入多模态融合语料是否能减少西方偏见？与仅使用英语相比，效果如何？

主要发现

• 所有评估任务中，VLM均表现出显著的西方偏见：在物体识别、问题回答和艺术情感分类任务中，对西方图像子集的性能始终更高。
• 在纯文本预训练中使用更均衡的语言组合（如英语与中文）可减少VLM中的西方偏见，即使推理阶段使用英语提示亦然。
• 使用中文进行提示可减少偏见，但该效应在中文于预训练阶段已充分代表时更为显著，表明预训练阶段的语言组合比推理阶段的语言更为关键。
• 在主观任务（如艺术情感分类）中，偏见减少效果更明显；但在客观任务（如物体识别）中，均衡预训练同样带来可测量的性能提升。
• 基于Baichuan2的模型在文化上与中文视角的对齐性优于基于Llama2的模型，隐藏状态探测结果表明Baichuan2能捕捉到特定文化背景的视觉关联。
• 使用双语语料进行多模态融合并不能一致地减少偏见，凸显预训练阶段的语言分布比融合数据的语言更具影响力。

Figure 2 : Our approach. Step 1 : We measure the Western bias of off-the-shelf ( $\text{OTS}_{i}$ ) VLMs on culturally diverse image understanding tasks by comparing their performance on each task’s Western and Eastern splits. Step 2 : We train comparable multilingual VLMs (mLLaVA). We explore three