[논문 리뷰] Do Multilingual Language Models Capture Differing Moral Norms?

Katharina Hämmerl, Björn Deiseroth외 4명|arXiv (Cornell University)|2022. 03. 18.

Topic Modeling인용 수 6

한 줄 요약

이 연구는 XLM-R와 같은 다국어 언어 모델(Multilingual Language Models, MLMs)이 다양한 문화권의 도덕적 규범을 캡처하는지, 여러 언어에서 인간이 애너테이션한 도덕적 판단과의 일치성을 평가함으로써 이를 조사한다. MoralDirection 프레임워크와 미세조정된 문장 임베딩을 사용하여, 저자들은 XLM-R가 인간의 도덕적 규범과 높은 상관관계를 보임을 발견하였으며, 특히 다국어 데이터로 미세조정된 경우 더욱 두드러진 성능을 보였다. 이는 MLMs가 다국어적 도덕적 차이를 캡처할 수 있음을 시사하지만, 언어 간 일치성은 문화적 차이를 가림으로써 영향을 줄 수 있음을 시사한다.

ABSTRACT

Massively multilingual sentence representations are trained on large corpora of uncurated data, with a very imbalanced proportion of languages included in the training. This may cause the models to grasp cultural values including moral judgments from the high-resource languages and impose them on the low-resource languages. The lack of data in certain languages can also lead to developing random and thus potentially harmful beliefs. Both these issues can negatively influence zero-shot cross-lingual model transfer and potentially lead to harmful outcomes. Therefore, we aim to (1) detect and quantify these issues by comparing different models in different languages, (2) develop methods for improving undesirable properties of the models. Our initial experiments using the multilingual model XLM-R show that indeed multilingual LMs capture moral norms, even with potentially higher human-agreement than monolingual ones. However, it is not yet clear to what extent these moral norms differ between languages.

연구 동기 및 목표

• 다국어 언어 모델(Multilingual Language Models, MLMs)이 윤리적 및 가치관의 문화적 다양성을 반영하여 서로 다른 언어 간 도덕적 규범을 캡처하는지 조사하기 위해.
• MLM 학습에 포함된 고자원 언어 데이터가 도덕적 표현을 주로 차지하는 문화적 규범으로 편향되는지 평가하기 위해.
• 다국어 모델에서 언어 간 일치성이 문화적으로 특화된 도덕적 차이를 가림으로써 억제되는지 평가하기 위해.
• 다국어 모델 내에서 바람직하지 않은 도덕적 편향을 탐지하고 개선하기 위한 방법을 개발하고 적용하기 위해.
• 다국어 모델과 단일언어 모델이 인간이 애너테이션한 도덕적 규범을 얼마나 잘 캡처하는지 비교하기 위해.

제안 방법

• 문장-변환기 프레임워크를 사용하여 XLM-R, mBERT와 같은 다국어 모델을 미세조정하여 의미적 문장 표현을 향상시키기 위해.
• 영어, 아랍어, 체코어, 독일어, 중국어 등 다섯 개 언어에서 인간이 애너테이션한 도덕적 판단과의 일치성을 평가하기 위해 MoralDirection(MD) 프레임워크를 적용하기 위해.
• 모델 예측과 인간의 도덕적 평가 간 상관관계를 측정하기 위해 평균 풀링 및 미세조정된 문장 임베딩을 사용하기 위해.
• 다국어 BERT, mBERT, XLM-R 등의 변형을 비교하여 다국어성과 미세조정의 영향을 분리하기 위해.
• 다른 언어 간 도덕적 표현이 지나치게 유사한지 평가하기 위해 언어 간 상관관계 행렬을 계산하기 위해.
• 다국어 간 일치성을 향상시키고 도덕적 규범 탐지 성능을 향상시키기 위해 미세조정 중 병렬 데이터를 활용하기 위해.

실험 결과

연구 질문

• RQ1 다국어 언어 모델은 윤리적 관점에서의 문화적 다양성을 반영하여 서로 다른 언어 간 도덕적 규범을 캡처할 수 있는가?
• RQ2 학습 데이터에 포함된 고자원 언어가 다국어 모델의 도덕적 표현에 얼마나 큰 영향을 미치는가?
• RQ3 다국어 모델에서 언어 간 일치성이 문화적으로 특화된 도덕적 차이를 가리키는가?
• RQ4 다국어 데이터로 미세조정하는 것이 모델이 인간의 도덕적 판단과 얼마나 잘 일치하는지에 영향을 주는가?
• RQ5 다국어 모델이 인간이 애너테이션한 도덕적 규범을 캡처하는 데 단일언어 모델보다 뛰어난 성능을 보이는가?

주요 결과

• 미세조정된 XLM-R 모델은 영어에서 인간의 도덕적 판단과 상관계수 0.85를 기록하였으며, 단일언어 BERT(0.79) 및 기타 다국어 기준 모델을 초월하였다.
• XLM-R는 높은 언어 간 상관관계(예: 독일어와 체코어 간 0.98)를 보였으며, 이는 강력한 언어 간 일치성을 의미하며, 이는 문화적 차이를 가릴 수 있음을 시사한다.
• 다국어 XLM-R 모델은 단일언어 BERT보다 인간의 도덕적 규범에 대해 더 높은 일치도를 보였으며, 이는 공통된 도덕적 지식을 효과적으로 캡처하고 있음을 시사한다.
• XLM-R와 mBERT의 평균 풀링 표현만으로는 인간의 규범과 유의미한 상관관계를 확보하지 못하였으며, 이는 미세조정의 필요성을 강조한다.
• 미세조정된 XLM-R는 모든 테스트 언어에서 뛰어난 성능을 보였으며, 상관계수는 중국어의 0.80에서 영어의 0.85까지 다양하게 나타났다. 이는 광범위한 도덕적 규범 캡처 능력을 시사한다.
• 결과적으로 다국어 모델이 도덕적 규범을 캡처할 수는 있지만, 높은 언어 간 유사성으로 인해 문화적으로 구별되는 도덕적 가치를 반영하는 데 제한이 있을 수 있음을 시사한다.