[论文解读] Do Multilingual Language Models Capture Differing Moral Norms?

Katharina Hämmerl, Björn Deiseroth+4 more|arXiv (Cornell University)|Mar 18, 2022

Topic Modeling被引用 6

一句话总结

本研究调查了多语言语言模型（MLMs）如XLM-R是否能通过在多种语言中评估其与人类标注的道德判断的一致性，来捕捉文化多样的道德规范。利用MoralDirection框架和微调后的句子嵌入，作者发现XLM-R与人类道德规范具有高度相关性，尤其是在使用多语言数据进行微调后，表明MLMs能够编码跨语言的道德差异，尽管语言对齐可能掩盖文化差异。

ABSTRACT

Massively multilingual sentence representations are trained on large corpora of uncurated data, with a very imbalanced proportion of languages included in the training. This may cause the models to grasp cultural values including moral judgments from the high-resource languages and impose them on the low-resource languages. The lack of data in certain languages can also lead to developing random and thus potentially harmful beliefs. Both these issues can negatively influence zero-shot cross-lingual model transfer and potentially lead to harmful outcomes. Therefore, we aim to (1) detect and quantify these issues by comparing different models in different languages, (2) develop methods for improving undesirable properties of the models. Our initial experiments using the multilingual model XLM-R show that indeed multilingual LMs capture moral norms, even with potentially higher human-agreement than monolingual ones. However, it is not yet clear to what extent these moral norms differ between languages.

研究动机与目标

• 调查多语言语言模型（MLMs）是否能在不同语言中编码差异化的道德规范，反映伦理与价值观的文化差异。
• 评估在MLM训练中高资源语言数据是否会使道德表征偏向主导文化规范。
• 评估多语言模型中的语言对齐是否抑制了文化特有的道德差异。
• 开发并应用检测和改善多语言模型中不良道德偏见的方法。
• 比较多语言模型与单语言模型在捕捉人类标注的道德规范方面的表现。

提出的方法

• 使用sentence-transformers框架微调多语言模型（XLM-R、mBERT），以提升语义句子表征。
• 应用MoralDirection（MD）框架，基于五种语言（英语、阿拉伯语、捷克语、德语和中文）的人类标注道德判断评估模型输出。
• 使用平均池化和微调后的句子嵌入，测量模型预测与人类道德评分之间的相关性。
• 通过比较单语言BERT、mBERT和XLM-R变体的性能，隔离多语言性和微调的影响。
• 计算跨语言相关性矩阵，评估不同语言中的道德表征是否过于相似，可能掩盖文化差异。
• 在微调过程中利用平行数据，以增强跨语言对齐并提升道德规范检测能力。

实验结果

研究问题

• RQ1 多语言语言模型能否在不同语言中捕捉差异化的道德规范，反映伦理上的文化差异？
• RQ2 训练数据中高资源语言在多语言模型中在多大程度上使道德表征偏向主导文化规范？
• RQ3 多语言模型中的语言对齐是否掩盖了文化特有的道德差异？
• RQ4 使用多语言数据进行微调在多大程度上提升了模型与人类道德判断的一致性？
• RQ5 多语言模型是否在捕捉人类标注的道德规范方面优于单语言模型？

主要发现

• 微调后的XLM-R在英语中的相关性达到0.85，优于单语言BERT（0.79）和其他多语言基线模型。
• XLM-R在不同语言间表现出高度的相关性（例如德语与捷克语之间为0.98），表明语言对齐较强，可能抑制了文化差异。
• 使用多语言数据训练的XLM-R在人类对道德规范的一致性判断上优于单语言BERT，表明其能有效捕捉共享的道德知识。
• 仅使用XLM-R和mBERT的平均池化表示未能与人类规范达到显著相关性，凸显了微调的必要性。
• 微调后的XLM-R在所有测试语言中均表现优异，相关性范围为0.80（中文）至0.85（英语），表明其具备广泛捕捉道德规范的能力。
• 结果表明，尽管多语言模型能够编码道德规范，但其高度的跨语言相似性可能限制其反映文化特异道德价值观的能力。