[論文レビュー] Do Multilingual Language Models Capture Differing Moral Norms?

Katharina Hämmerl, Björn Deiseroth+4 more|arXiv (Cornell University)|Mar 18, 2022

Topic Modeling被引用数 6

ひとこと要約

本研究では、XLM-R などの多言語言語モデル（MLM）が、複数の言語で人間がアノテートした道徳的判断と整合するかどうかを評価することで、文化的に多様な道徳的規範を捉えているかを調査する。MoralDirectionフレームワークとファインチューニングされた文埋め込みを用いて、著者らはXLM-Rが人間の道徳的規範と高い相関を示すことを発見した。特に多言語データでファインチューニングされた場合に顕著で、MLMが言語を越えた道徳的差異を表現できることを示唆しているが、言語の整合性が文化的差異を隠す可能性もある。

ABSTRACT

Massively multilingual sentence representations are trained on large corpora of uncurated data, with a very imbalanced proportion of languages included in the training. This may cause the models to grasp cultural values including moral judgments from the high-resource languages and impose them on the low-resource languages. The lack of data in certain languages can also lead to developing random and thus potentially harmful beliefs. Both these issues can negatively influence zero-shot cross-lingual model transfer and potentially lead to harmful outcomes. Therefore, we aim to (1) detect and quantify these issues by comparing different models in different languages, (2) develop methods for improving undesirable properties of the models. Our initial experiments using the multilingual model XLM-R show that indeed multilingual LMs capture moral norms, even with potentially higher human-agreement than monolingual ones. However, it is not yet clear to what extent these moral norms differ between languages.

研究の動機と目的

• 多言語言語モデル（MLM）が、倫理的・価値観の文化的差異を反映して、言語ごとに異なる道徳的規範を表現しているかどうかを調査すること。
• MLMの学習に使用される高リソース言語のデータが、支配的である文化的規範に偏った道徳的表現を生じるかどうかを評価すること。
• 多言語モデルにおける言語の整合性が、文化的に特異な道徳的差異を曇らせるかどうかを評価すること。
• 多言語モデルにおける望ましくない道徳的バイアスを検出および改善するための手法を開発・適用すること。
• 多言語モデルと単言語モデルの、人間がアノテートした道徳的規範を捉える性能を比較すること。

提案手法

• 文埋め込みの質を向上させるために、sentence-transformersフレームワークを用いて多言語モデル（XLM-R, mBERT）をファインチューニングすること。
• MoralDirection（MD）フレームワークを用いて、英語、アラビア語、チェコ語、ドイツ語、中国語の5言語で人間がアノテートした道徳的判断と照らし合わせて、モデル出力を評価すること。
• 平均プールドおよびファインチューニングされた文埋め込みを用いて、モデル予測と人間の道徳的評価との相関を測定すること。
• 単言語BERT、mBERT、XLM-Rのバリエーションを比較することで、多言語性およびファインチューニングの影響を分離すること。
• 言語間相関行列を計算して、異なる言語における道徳的表現が互いにあまりに似すぎていないかを評価し、文化的差異が隠れていないかを確認すること。
• ファインチューニング中に並列データを活用することで、言語間の整合性を高め、道徳的規範の検出性能を向上させること。

実験結果

リサーチクエスチョン

• RQ1 多言語言語モデルは、文化的な倫理観の違いを反映して、言語ごとに異なる道徳的規範を捉えることができるか？
• RQ2 学習データに含まれる高リソース言語が、多言語モデルにおける道徳的表現にどの程度バイアスをもたらすか？
• RQ3 多言語モデルにおける言語の整合性が、文化的に特異な道徳的差異を曇らせるか？
• RQ4 多言語データでファインチューニングすることで、モデルの道徳的判断と人間の道徳的判断との整合性がどの程度向上するか？
• RQ5 多言語モデルは、人間がアノテートした道徳的規範を捉える点で、単言語モデルを上回る性能を示すか？

主な発見

• ファインチューニングされたXLM-Rモデルは、英語において人間の道徳的判断と0.85の相関を示し、単言語BERT（0.79）や他の多言語ベースラインを上回った。
• XLM-Rは高い言語間相関（例えばドイツ語とチェコ語の間で0.98）を示しており、強い言語の整合性があるが、文化的差異が隠れてしまう可能性がある。
• 多言語XLM-Rモデルは、単言語BERTよりも人間の合意度が高い道徳的規範を捉えており、共通の道徳的知識を効果的に表現していると考えられる。
• XLM-RとmBERTの平均プールド表現のみでは、人間の規範と有意な相関が得られず、ファインチューニングの必要性が浮き彫りになった。
• ファインチューニングされたXLM-Rは、全テスト言語で高い性能を示し、中国語で0.80から英語で0.85の相関を示しており、広範な道徳的規範の捉え込みが可能であることが示された。
• 結果から、多言語モデルが道徳的規範を表現できる一方で、言語間の高い類似性が文化的に特異な道徳的価値を反映する能力を制限する可能性があると考えられる。