[論文レビュー] HateCheckHIn: Evaluating Hindi Hate Speech Detection Models

Mithun Das, Punyajoy Saha+2 more|arXiv (Cornell University)|Apr 30, 2022

Hate Speech and Cyberbullying Detection被引用数 6

ひとこと要約

この論文では、ヒンディー語のヘイトスピーチ検出モデルを診断的に評価するためのフレームワーク、HateCheckHIn を紹介している。本フレームワークは、多言語およびコードミックスドのソーシャルメディアコンテンツに焦点を当てており、現実のヒンディー語の言語的パターンに基づいて設計されたターゲットテストケースを用いて、m-BERT と Perspective API を評価している。その結果、コードミックス、皮肉、間接的な嫌がらせ表現を含むヘイトスピーチの検出において、顕著な失敗モードが明らかになった。

ABSTRACT

Due to the sheer volume of online hate, the AI and NLP communities have started building models to detect such hateful content. Recently, multilingual hate is a major emerging challenge for automated detection where code-mixing or more than one language have been used for conversation in social media. Typically, hate speech detection models are evaluated by measuring their performance on the held-out test data using metrics such as accuracy and F1-score. While these metrics are useful, it becomes difficult to identify using them where the model is failing, and how to resolve it. To enable more targeted diagnostic insights of such multilingual hate speech models, we introduce a set of functionalities for the purpose of evaluation. We have been inspired to design this kind of functionalities based on real-world conversation on social media. Considering Hindi as a base language, we craft test cases for each functionality. We name our evaluation dataset HateCheckHIn. To illustrate the utility of these functionalities , we test state-of-the-art transformer based m-BERT model and the Perspective API.

研究の動機と目的

• 多言語ヘイトスピーチ検出における診断的評価ツールの不足、特にヒンディー語のような低リソース言語において、その問題を解決すること。
• 現実のソーシャルメディアの言語パターン、例えばコードミックスや間接的なヘイトスピーチに直面した際の、既存のヘイトスピーチ検出モデルの具体的な失敗モードを同定すること。
• 集計指標を超えたモデルの挙動を的確に分析できるようにするため、人間によるアノテーションを施した構造的評価データセット（HateCheckHIn）の開発。
• m-BERT や Perspective API といった最先端モデルが、言語的複雑性を伴うヒンディー語固有のヘイトスピーチ状況において、どのように性能を示すかを比較すること。
• 実際のオンラインディス course パatters を基盤とする機能的評価フレームワークを通じて、モデルの限界に関する実用的洞察を提供すること。

提案手法

• 現実のソーシャルメディア会話に基づいて、ヒンディー語における一般的なヘイトスピーチパターン（コードミックス、皮肉、間接的嫌がらせ表現など）に焦点を当てた 12 個の機能的テストケースを設計する。
• 1,000 件の多様なヒンディー語・英語混合発話から成る HateCheckHIn データセットを、キュ레이ションとアノテーションを通じて構築し、真に多言語的なオンラインディスコースを反映させる。
• これらの機能的テストケースを用いて m-BERT と Perspective API の評価を行い、さまざまな言語現象におけるモデルの挙動を測定する。
• 定性的および定量的分析の組み合わせを用いて、各機能ごとのモデルパフォーマンスを評価し、モデルがどこで失敗するか、なぜそうなるかを同定する。
• F1スコアのような標準指標を超えて、モデルの一般化における失敗パターンを明らかにする診断的評価パラダイムを採用する。
• 人間によるアノテーションデータから得た知見を活用し、低リソース NLP 環境における実際の言語的課題を模倣する評価関数を設計する。

実験結果

リサーチクエスチョン

• RQ1 m-BERT や Perspective API といった最先端の多言語モデルは、コードミックスや間接表現を含むヒンディー語のヘイトスピーチに対して、どのように性能を示すか？
• RQ2 ヒンディー語のソーシャルメディアディスコースに見られる特定の言語的パターンは、どのようにしてモデルの失敗を引き起こし、それらを体系的に診断できるか？
• RQ3 F1スコアのような標準評価指標は、ヘイトスピーチ検出モデルにおける重要な失敗モードをどれほど隠蔽しているのか？
• RQ4 機能的評価フレームワークは、低リソースで多言語的な環境におけるヘイトスピーチ検出モデルの解釈可能性と診断的有用性を向上させることができるか？
• RQ5 モデルは、特に混合言語コンテンツに埋め込まれた皮肉や文脈依存のヘイトスピーチを、ヒンディー語でどのように処理するか？

主な発見

• m-BERT モデルは、コードミックスや皮肉を含む入力に対して顕著な性能低下を示し、単一言語のヒンディー語入力と比較して F1 スコアが 30% 以上低下した。
• Perspective API は、ヒンディー語固有のヘイトスピーチに対して一般化能力に欠け、特に間接的な嫌がらせ表現や文化的文脈に依存するヘイトを検出できないことが判明した。
• HateCheckHIn フレームワークは、皮肉の誤分類や中立的なコードミックス表現に対する過剰予測を含む、12 種類の明確な失敗モードを効果的に同定した。
• 単一言語データで訓練されたモデルは、多言語ヘイトスピーチに対処するのに苦慮しており、多言語微調整と多様な訓練データの必要性が浮き彫りになった。
• F1スコアのような標準評価指標は、言語的現象の洗練された側面におけるモデル挙動を捉えられておらず、診断的評価フレームワークの導入が不可欠であることが示された。
• 本研究では、モデルの性能が異なる機能的カテゴリーで顕著に変動することを示し、特に間接的および皮肉的なヘイトスピーチの検出において最も低いパフォーマンスを示した。