[論文レビュー] A Comprehensive View of the Biases of Toxicity and Sentiment Analysis Methods Towards Utterances with African American English Expressions

Guilherme H. Resende, Luiz Felipe Nery+3 more|arXiv (Cornell University)|Jan 23, 2024

Hate Speech and Cyberbullying Detection被引用数 4

ひとこと要約

本研究では、アフリカ系アメリカ英語（AAE）表現を含む発話文を処理する際、6つの主要な毒性およびセンチメント分析モデル（Vader、TextBlob、Flair、GoogleのPerspective、Detoxify）に内在するシステム的バイアスを調査している。LIWCや品詞（PoS）による言語的制御、文の意味的類似度（文埋め込み）、4つの多様なデータセット（YouTube、Twitter、CORAAL、Buckeye）を用いて、意味的・文法的要因を制御しても、AAE表現は一貫してより毒性が高く、否定的と誤分類されることが示された。これは、すべてのモデルに広範なバイアスが存在することを明らかにしている。

ABSTRACT

Language is a dynamic aspect of our culture that changes when expressed in different technologies/communities. Online social networks have enabled the diffusion and evolution of different dialects, including African American English (AAE). However, this increased usage is not without barriers. One particular barrier is how sentiment (Vader, TextBlob, and Flair) and toxicity (Google's Perspective and the open-source Detoxify) methods present biases towards utterances with AAE expressions. Consider Google's Perspective to understand bias. Here, an utterance such as ``All n*ggers deserve to die respectfully. The police murder us.'' it reaches a higher toxicity than ``African-Americans deserve to die respectfully. The police murder us.''. This score difference likely arises because the tool cannot understand the re-appropriation of the term ``n*gger''. One explanation for this bias is that AI models are trained on limited datasets, and using such a term in training data is more likely to appear in a toxic utterance. While this may be plausible, the tool will make mistakes regardless. Here, we study bias on two Web-based (YouTube and Twitter) datasets and two spoken English datasets. Our analysis shows how most models present biases towards AAE in most settings. We isolate the impact of AAE expression usage via linguistic control features from the Linguistic Inquiry and Word Count (LIWC) software, grammatical control features extracted via Part-of-Speech (PoS) tagging from Natural Language Processing (NLP) models, and the semantic of utterances by comparing sentence embeddings from recent language models. We present consistent results on how a heavy usage of AAE expressions may cause the speaker to be considered substantially more toxic, even when speaking about nearly the same subject. Our study complements similar analyses focusing on small datasets and/or one method only.

研究の動機と目的

• 毒性およびセンチメント分析モデルが、アフリカ系アメリカ英語（AAE）表現を含む発話文に対してバイアスを示すかどうかを調査すること。
• 文法、言語的特徴、意味的内容といった混同要因を除外し、AAE使用の影響を分離すること。
• YouTube、Twitter、CORAAL、Buckeyeの多様なデータセット上で、広く使用されている6つのモデル（Vader、TextBlob、Flair、Perspective、Detoxify、Detoxify Unbiased）の性能を比較すること。
• オンラインソーシャルメディアや会話のトランスクリプトを含む実世界の文脈において、バイアスの実証的証拠を提供すること。
• 開発者が適切なツールを選定できるように支援し、より代表的なAAEデータを用いた今後のモデルトレーニングに役立てるための知見を提供すること。

提案手法

• 本研究では、YouTubeコメント、Twitter投稿、および2つの会話英語インタビュー収集データ（CORAALとBuckeye）の4つのデータセットを用い、言語使用の多様性を確保した。
• 意味的類似度に基づいて発話文ペアを構築し、一方はAAE表現を、もう一方は標準英語相当表現を用いた。
• LIWCを用いて言語的制御特徴を抽出し、語彙的および感情的コンテンツの差を分離した。
• 品詞（PoS）タギングを用いて文法的制御を実現し、ペア化された発話文間の構文的類似性を確保した。
• 意味的類似度は、最先端の言語モデルからの文埋め込みを用いて測定し、意味の類似度を制御した。
• 統計的分析により、ペア化された発話文間でのモデルスコアを比較し、AAE使用が毒性／否定的センチメントスコアを高めるかどうかに注目した。

実験結果

リサーチクエスチョン

• RQ1 意味的および文法的要因を制御しても、毒性およびセンチメント分析モデルが、アフリカ系アメリカ英語（AAE）表現を含む発話文に対して一貫して高い毒性または否定的センチメントスコアを割り当てるのか？
• RQ2 語彙ベース（ルールベース）のモデルと機械学習（ML）モデルの両者において、AAE表現に対するバイアスの程度はどのように異なるのか？
• RQ3 オンラインソーシャルメディアや会話のトランスクリプトを含む多様なデータソースにおいて、バイアスは一貫しているのか？
• RQ4 言語的、文法的、意味的制御を施すことで、モデル出力における観察されたバイアスはどれほど軽減されたり、解消されたりするのか？
• RQ5 評価対象の6つのモデル（Vader、TextBlob、Flair、Perspective、Detoxify、Detoxify Unbiased）間で、バイアスの程度に顕著な差が認められるのか？

主な発見

• YouTubeでは、スコアが異なるペアのうち48％がAAEバージョンで高い毒性スコアを示したのに対し、非AAEバージョンでは37％であった。このバイアスは統計的に有意であった（p < 0.01）。
• CORAAL/Buckeyeでは、差が生じたペアの77％がAAEバージョンで高い毒性スコアを示しており、会話文の文脈ではバイアスがより強いことが示された。
• 語彙ベースのモデル（Vader、TextBlob）は機械学習モデル（例：Flair、Perspective、Detoxify）よりもバイアスが少なかった。これは、ルールベースのシステムがAAE表現バイアスに対してより頑健である可能性を示唆している。
• 文法（PoS）、言語的特徴（LIWC）、意味的類似度（文埋め込み）の制御を施しても、大多数のモデルにおいてAAE表現が依然として顕著に高い毒性スコアをもたらした。
• YouTubeでは585,679組、CORAAL/Buckeyeでは592,606組の類似度の高い一意なペアを同定し、すべてのデータセットおよびモデルで一貫したバイアスパターンが確認された。
• 結果は、バイアスがランダムな偶然によるものではなく、系統的であることを示しており、二項検定（p < 0.01）で裏付けられた。これは、トレーニングデータの制限および文脈理解の欠如に起因する可能性が高い。