[논문 리뷰] Multilingual HateCheck: Functional Tests for Multilingual Hate Speech Detection Models

Paul Röttger, Haitham Seelawi외 3명|arXiv (Cornell University)|2022. 06. 20.

Hate Speech and Cyberbullying Detection인용 수 4

한 줄 요약

다국어 혐오 검사(Multilingual HateCheck, MHC)는 아랍어, 네덜란드어, 프랑스어, 독일어, 힌두어, 이탈리아어, 중국어, 폴란드어, 포르투갈어, 스페인어 등 10개 언어에서 혐오 발언 탐지 모델을 평가하기 위한 다국어 기반 기능 테스트 세트를 제공한다. 수작업으로 작성된, 문화적으로 적합한 테스트 케이스를 사용하여 모델의 핵심 약점을 드러내며, 키워드에 대한 과도한 의존, 편향된 대상 커버리지, 다국어 간 전이의 일관성 부족 등 심각한 문제점을 확인한다. 이는 고성능 다국어 모델조차도 나타나는 문제들이다.

ABSTRACT

Hate speech detection models are typically evaluated on held-out test sets. However, this risks painting an incomplete and potentially misleading picture of model performance because of increasingly well-documented systematic gaps and biases in hate speech datasets. To enable more targeted diagnostic insights, recent research has thus introduced functional tests for hate speech detection models. However, these tests currently only exist for English-language content, which means that they cannot support the development of more effective models in other languages spoken by billions across the world. To help address this issue, we introduce Multilingual HateCheck (MHC), a suite of functional tests for multilingual hate speech detection models. MHC covers 34 functionalities across ten languages, which is more languages than any other hate speech dataset. To illustrate MHC's utility, we train and test a high-performing multilingual hate speech detection model, and reveal critical model weaknesses for monolingual and cross-lingual applications.

연구 동기 및 목표

• 비영어권 혐오 발언 탐지 모델에 대한 진단 평가 도구의 부족 문제를 해결하며, 수십억 명의 비영어권 사용자를 보호하는 데 핵심적인 역할을 한다.
• 기존의 테스트 세트 평가 방식의 한계를 극복하며, 체계적인 모델 편향과 단순화된 의사결정 규칙이 가려질 수 있음을 해결한다.
• 다양한 언어적 및 문화적 맥락에서 모델 능력을 세밀하고 대조적인 방식으로 평가할 수 있도록 다국어 기능 테스트 세트를 개발한다.
• 특정 실패 유형을 식별하여 더 강건하고 공정하며 일반화 능력이 뛰어난 다국어 혐오 발언 탐지 시스템 개발을 지원한다.
• 원래 영어 HateCheck 프레임워크를 10개 추가 언어로 확장하며, 현지어 모국어 사용 전문가를 활용해 문화적 및 언어적 적합성을 확보한다.

제안 방법

• 10개 언어에서 34개의 기능 테스트 카테고리 설계하며, 각 카테고리에 25~27개의 대상 테스트 케이스 포함. 이는 혐오 발언과 비혐오 발언을 대비시킨다.
• 현지어 모국어 사용 언어 전문가를 활용해 원래 영어 HateCheck를 기반으로 하되, 각 목표 언어의 문화적·언어적 현실성에 맞게 테스트 케이스를 수작업으로 작성한다.
• 키워드 매칭에 의존하는 모델을 시험하기 위해, 비혐오 발언이지만 혐오 발언의 어휘를 모방한 내용(예: 반대 발언 또는 풍자)을 포함시켜 대조적 설계를 확보한다.
• MHC 세트를 활용해 미세조정된 XLM-T 모델을 단일언어 및 다국어 설정(제로샷 및 패기샷)에서 평가하여 모델의 약점을 진단한다.
• 전문가가 레이블링한 골드 표준 레이블을 사용해, 총합 지표가 아닌 특정 기능 능력에 대한 모델 성능을 측정한다.
• MHC를 GitHub에 공개하여 재현 가능성과 모델 개발 및 평가 분야에서의 커뮤니티 도입을 지원한다.

실험 결과

연구 질문

• RQ1 다국어 혐오 발언 탐지 모델은 10개 언어에서 다양하고 대조적이며 문화적으로 적합한 테스트 세트에서 어떻게 성능을 보이는가?
• RQ2 모델은 다국어 환경에서 문맥적 이해보다 키워드나 어구에 과도하게 의존하는가?
• RQ3 다양한 언어 조합에서 제로샷 및 패기샷 설정에서 다국어 간 전이가 얼마나 일관되고 신뢰할 수 있는가?
• RQ4 특히 다양한 언어적·문화적 맥락에서 보호 대상 집단에 대해 모델의 대상 커버리지에 어떤 편향이 존재하는가?
• RQ5 기존의 보류 테스트 세트 평가에서는 드러나지 않는, 기능 테스트가 모델의 약점을 드러낼 수 있는가?

주요 결과

• 다국어 XLM-T 모델은 비혐오 맥락에서조차도 핵심 어휘나 어구에 과도하게 민감하게 반응하는 것으로 나타났다.
• 모델 성능은 언어 간 일관성이 떨어졌으며, 특히 소수자나 낙인을 받는 집단에 대해 대상 커버리지에 심각한 편향이 존재했다.
• 제로샷 및 패기샷 설정 모두에서 다국어 간 전이가 오류가 많고 신뢰할 수 없었으며, 언어 간 일반화 능력이 떨어지는 것으로 나타났다.
• 반대 발언 등 비혐오 발언이지만 혐오 발언을 모방한 내용을 정확히 분류하지 못해, 문맥 이해의 부족함이 드러났다.
• 기존의 보류 테스트 세트 평가에서는 드러나지 않았지만, 기능 테스트는 유사한 언어 패턴에서 일관성 없는 레이블링과 같은 모델의 약점을 드러냈다.
• MHC는 고성능 모델의 핵심 실패 유형을 성공적으로 식별하여, 다국어 혐오 발언 탐지 분야에서 진단 도구로서의 가치를 입증했다.