[论文解读] ChatGPT Perpetuates Gender Bias in Machine Translation and Ignores Non-Gendered Pronouns: Findings across Bengali and Five other Low-Resource Languages

Sourojit Ghosh, Aylin Caliskan|arXiv (Cornell University)|May 17, 2023

Artificial Intelligence in Healthcare and Education被引用 12

一句话总结

这篇论文揭示了 ChatGPT 在英语与孟加拉语及另外五种低资源语言之间的翻译中存在性别偏见，常常默认使用带性别的代词并忽略非性别化代词。

ABSTRACT

In this multicultural age, language translation is one of the most performed tasks, and it is becoming increasingly AI-moderated and automated. As a novel AI system, ChatGPT claims to be proficient in such translation tasks and in this paper, we put that claim to the test. Specifically, we examine ChatGPT's accuracy in translating between English and languages that exclusively use gender-neutral pronouns. We center this study around Bengali, the 7$^{th}$ most spoken language globally, but also generalize our findings across five other languages: Farsi, Malay, Tagalog, Thai, and Turkish. We find that ChatGPT perpetuates gender defaults and stereotypes assigned to certain occupations (e.g. man = doctor, woman = nurse) or actions (e.g. woman = cook, man = go to work), as it converts gender-neutral pronouns in languages to `he' or `she'. We also observe ChatGPT completely failing to translate the English gender-neutral pronoun `they' into equivalent gender-neutral pronouns in other languages, as it produces translations that are incoherent and incorrect. While it does respect and provide appropriately gender-marked versions of Bengali words when prompted with gender information in English, ChatGPT appears to confer a higher respect to men than to women in the same occupation. We conclude that ChatGPT exhibits the same gender biases which have been demonstrated for tools like Google Translate or MS Translator, as we provide recommendations for a human centered approach for future designers of AIs that perform language translation to better accommodate such low-resource languages.

研究动机与目标

• 评估 ChatGPT 在英语与孟加拉语及其他五种低资源语言之间的翻译准确性，涉及性别中立代词。
• 评估 ChatGPT 是否在职业与行为的翻译中强制执行性别默认和刻板印象。
• 检查 ChatGPT 如何处理像 they 这样的性别中立代词在目标语言中的表现。
• 提供以人为本设计的建议，以更好地支持 AI 翻译系统对低资源语言的适配。

提出的方法

• 使用 ChatGPT 分析英语到孟加拉语以及另外五种低资源语言（波斯语、马来语、他加禄语、泰语、土耳其语）的翻译。
• 识别性别中立代词被翻译为带性别的形式（he/she）或翻译不连贯的实例。
• 在英文提供性别信息与非性别化情境下，比较带性别标记的翻译差异。
• 评估同一职业中对男性与女性的相对对待。
• 综合研究结果，提出多语言 AI 翻译工具的设计建议。

实验结果

研究问题

• RQ1 ChatGPT 是否将 gender-neutral pronouns 翻译成 genderedpronouns 吗，在孟加拉语及其他研究语言中？
• RQ2 模型是否在职业或行为相关翻译中传播性别刻板印象？
• RQ3 ChatGPT 如何在孟加拉语及这五种低资源语言中处理像 they 这样的性别中立代词？
• RQ4 可以提出哪些设计建议以最小化对低资源语言的 AI 翻译系统中的性别偏见？

主要发现

• ChatGPT 经常将孟加拉语及所研究的其他语言中的性别中立代词翻译成 he 或 she。
• 该模型在翻译中传播性别默认刻板印象（例如将某些职业与特定性别相关联）。
• ChatGPT 无法将英语性别中立代词如 they 翻译为其他语言的等效性别中立形式，导致翻译不连贯或错误。
• 当给出英语中的性别信息时，ChatGPT 提供带性别标记的孟加拉语等价词，但在同一职业中似乎对男性比对女性更为尊重。
• 总体而言，观察到的偏见与其他翻译工具的既往发现一致，强调在 AI 翻译中采用以人为本设计的必要性。