[논문 리뷰] The Hateful Memes Challenge: Detecting Hate Speech in Multimodal Memes

Douwe Kiela, Hamed Firooz외 5명|arXiv (Cornell University)|2020. 05. 10.

Hate Speech and Cyberbullying Detection참고 문헌 94인용 수 146

한 줄 요약

이 논문은 증오 발언 탐지를 위한 10k-meme 다중모달 데이터셋을 소개합니다. 이는 진정한 다중모달 추론이 필요하도록 설계되었으며, 다양한 단일 모달 및 다중모달 모델을 평가하고 인간이 현재 모델보다 우수합니다.

ABSTRACT

This work proposes a new challenge set for multimodal classification, focusing on detecting hate speech in multimodal memes. It is constructed such that unimodal models struggle and only multimodal models can succeed: difficult examples ("benign confounders") are added to the dataset to make it hard to rely on unimodal signals. The task requires subtle reasoning, yet is straightforward to evaluate as a binary classification problem. We provide baseline performance numbers for unimodal models, as well as for multimodal models with various degrees of sophistication. We find that state-of-the-art methods perform poorly compared to humans (64.73% vs. 84.7% accuracy), illustrating the difficulty of the task and highlighting the challenge that this important problem poses to the community.

연구 동기 및 목표

• 단일 모달 신호를 넘어서는 다중모달 추론이 필요한 증오 발언 탐지 태스크 정의.
• 합법적으로 라이선스된, 무해한 혼동 변수를 포함한 reconstructive meme 데이터셋을 구성하여 단일모달 편향에 도전합니다.
• 다중모달 모델과 인간을 벤치마크하기 위한 명확한 평가 지표와 기준선을 제공합니다.
• 주석자 간 합의 및 데이터셋 속성을 분석하여 증오 카테고리와 공격 유형을 이해합니다.
• 다중모달 이해와 실제 세계의 증오 발언 완화를 촉진하기 위한 공개 벤치마크를 제공합니다.

제안 방법

• 의미를 보존하기 위해 Getty 이미지에 라이선스를 부여받은 이미지를 사용해 밈을 재구성하여 챌린지 세트를 구축합니다.
• 3점 척도(확실히 혐오적임, 확실하지 않음, 확실히 혐오적이지 않음)를 사용하여 밈의 혐오 여부를 주석하고 이진 레이블로 도출합니다.
• 레이블을 뒤집고 다중모달 의존성을 강제하기 위해 이미지와 텍스트 모두의 무해한 혼란 요인을 만듭니다.
• 개발(dev)/테스트(test)/미세조정(fine-tuning) 세트로 데이터를 나누고 개발/테스트 분포를 균형 있게 구성하며 ROC AUC와 정확도를 보고합니다.
• 이미지 전용, 텍스트 전용, 초기/중간/최종 융합, 다중모달 사전학습 변형을 포함한 다양한 단일모달 및 다중모달 모델을 평가합니다.
• 모델 간의 기준 성능 수치를 제공하여 인간 성능과의 격차를 보여줍니다.

실험 결과

연구 질문

• RQ1 다중모달 모델이 밈의 증오 발언 탐지에서 단일모달 기준선을 능가할 수 있을까요?
• RQ2 다중모달 사전학습과 단일모달 사전학습이 이 태스크의 성능에 어떻게 영향을 미치나요?
• RQ3 이 벤치마크에서 현재 모델과 인간 성능 사이의 격차는 어느 정도인가요?
• RQ4 이미지 단서와 텍스트 단서가 각각 증오 밈 탐지에서 어떤 역할을 하나요?
• RQ5 주석의 신뢰도는 어느 정도이며 혐오성 판단에 대한 주석자 간 일치는 얼마나 되나요?

주요 결과

• 단일모달 모델은 다중모달 모델에 비해 어려움을 겪으며, 이 태스크에서 텍스트 기반 신호가 이미지 전용 신호보다 다소 우위를 제공합니다.
• 다중모달 모델은 일반적으로 단일모달 기준선보다 우수한 성능을 보이며, 초기 융합 구조가 후기 융합보다 더 나은 결과를 낳습니다.
• 다중모달 사전학습은 단일모달 사전학습 기준선에 비해 약간의 이득만 보여 다중모달 학습에서 개선 여지가 있음을 시사합니다.
• 데이터셋에서 인간 성능은 현 상태의 최첨단 모델보다 현저히 높아 이 작업의 난이도를 강조합니다.
• 주석자 간 합의는 보통 수준(Cohen’s kappa 68.4)으로, 논문의 정의에 따른 혐오 발언 분류의 어려움을 반영합니다.
• 데이터셋은 다양한 밈 유형을 포함합니다(다중모달 혐오, 단일모달 혐오, 무해한 혼동 요인, 임의의 비혐오)으로 진정한 다중모달 추론을 강조합니다.