[論文レビュー] Evaluating ChatGPT's Performance for Multilingual and Emoji-based Hate Speech Detection

Mithun Das, Saurabh Kumar Pandey+1 more|arXiv (Cornell University)|May 22, 2023

Hate Speech and Cyberbullying Detection被引用数 7

ひとこと要約

この論文は、ChatGPTのヘイトスピーチ検出における強みと弱みを、11言語と絵文字ベースの表現で評価し、集計指標には捉えきれない粒度の失敗を示す機能テストを用いて検証する。

ABSTRACT

Hate speech is a severe issue that affects many online platforms. So far, several studies have been performed to develop robust hate speech detection systems. Large language models like ChatGPT have recently shown a great promise in performing several tasks, including hate speech detection. However, it is crucial to comprehend the limitations of these models to build robust hate speech detection systems. To bridge this gap, our study aims to evaluate the strengths and weaknesses of the ChatGPT model in detecting hate speech at a granular level across 11 languages. Our evaluation employs a series of functionality tests that reveals various intricate failures of the model which the aggregate metrics like macro F1 or accuracy are not able to unfold. In addition, we investigate the influence of complex emotions, such as the use of emojis in hate speech, on the performance of the ChatGPT model. Our analysis highlights the shortcomings of the generative models in detecting certain types of hate speech and highlighting the need for further research and improvements in the workings of these models.

研究の動機と目的

• 強力なLLM時代における堅牢なヘイトスピーチ検出システムの必要性を動機づける。
• 11言語に渡るChatGPTの性能を評価し、長所と短所を特定する。
• 絵文字や他の複雑な感情がヘイトスピーチ検出に与える影響を調査する。
• 集計指標が生成モデルのニュアンス的な失敗モードを見落とす場合があることを示す。

提案手法

• ChatGPTのヘイトスピーチ検出における粒度の高い失敗を明らかにする機能性テストを一連実施する。
• 11言語に渡ってChatGPTを評価し、多言語性能を測定する。
• 絵文字の使用と複雑な感情がモデルの性能に与える影響を分析する。
• 粒度の高いテスト結果をマクロF1や正確性などの集計指標と比較する。
• 特定のヘイトスピーチタイプの検出における生成モデルの欠点を強調する。

実験結果

リサーチクエスチョン

• RQ1 ChatGPTは11言語でヘイトスピーチをどれだけ検出できるか。
• RQ2 絵文字の使用はChatGPTのヘイトスピーチ検出性能にどのような影響を与えるか。
• RQ3 マクロ指標では捉えられないChatGPTの粒度の高い失敗は何か。
• RQ4 ヘイトスピーチ検出タスクにおける生成モデルの制限は何か。

主な発見

• ChatGPTはマクロ指標からは見えない粒度の失敗をヘイトスピーチ検出で示す。
• モデルは特定のタイプのヘイトスピーチの検出に欠点を示す。
• 絵文字や複雑な感情の手がかりは性能に影響を与え、現在の生成モデルの限界を明らかにする。
• 本研究はLLMsを用いたヘイトスピーチ検出のさらなる研究と改善の必要性を浮き彫りにする。