[論文レビュー] Challenges in Automated Debiasing for Toxic Language Detection

Xuhui Zhou, Maarten Sap+3 more|arXiv (Cornell University)|Jan 29, 2021

Hate Speech and Cyberbullying Detection参考文献 42被引用数 12

ひとこと要約

本稿は、有毒な言語検出における自動デバイアス手法の有効性を調査し、語彙的および方言的（アフリカ系アメリカン英語）バイアスに焦点を当てる。複数のデバイアス手法をテストしたが、著者らはそれらがバイアスを大幅に低減するのにほとんど効果がなかったことを発見した。代わりに、合成された方言翻訳を用いたデータ再ラベル付けが、方言的および人種的格差の両方を是正するのにはるかに有効であることが判明した。

ABSTRACT

Biased associations have been a challenge in the development of classifiers for detecting toxic language, hindering both fairness and accuracy. As potential solutions, we investigate recently introduced debiasing methods for text classification datasets and models, as applied to toxic language detection. Our focus is on lexical (e.g., swear words, slurs, identity mentions) and dialectal markers (specifically African American English). Our comprehensive experiments establish that existing methods are limited in their ability to prevent biased behavior in current toxicity detectors. We then propose an automatic, dialect-aware data correction method, as a proof-of-concept. Despite the use of synthetic labels, this method reduces dialectal associations with toxicity. Overall, our findings show that debiasing a model trained on biased toxic language data is not as effective as simply relabeling the data to remove existing biases.

研究の動機と目的

• 既存の自動デバイアス手法が、有毒言語検出モデルにおける語彙的および方言的バイアスを効果的に低減できるかどうかを評価すること。
• 特にアフリカ系アメリカン英語（AAE）の特徴に関するバイアスが、本質的にバイアスを含むデータセット上で学習されたモデルに根ざす理由を解明すること。
• 方言翻訳を用いた合成データの再ラベル付けが、標準的なデバイアス手法よりもバイアス低減に優れているかどうかを検討すること。
• 社会的・言語的パワー・ダイナミクスに起因するバイアスが、単なるデータセットのアーチファクトではなく、有毒言語検出の文脈において、現在のデバイアス手法の限界を浮き彫りにすること。
• 後処理のモデルデバイアスよりも、専門家によるラベル付けや方言に配慮したアノテーションを含む、データ品質の向上を提唱すること。

提案手法

• Founta et al. (2018) が提供する有毒言語検出データセットに、既存のデバイアス手法（特に、Clark et al., 2019 のデバイアス除去トレーニングおよびバイアス度合いに基づくデータフィルタリング）を適用した。
• 少数ショットの GPT-3 ベースの方言翻訳システムを用いて、アフリカ系アメリカン英語（AAE）発話の主流アメリカ英語（MAE）への合成翻訳を生成し、元の意味を保持した。
• AAE版が有毒とマークされたが、MAE版はそうでないインスタンスについて、合成された方言に配慮したトレーニングセットに再ラベル付けした。
• 元のバイアスを含むデータセットと、再ラベル付けされた合成データセットの両方で、毒性分類器をトレーニングし、性能と公平性指標を比較した。
• アフリカ系アメリカン英語（AAE）として識別されたツイートにおける偽陽性率（FPR）や、人種的アイデンティティグループ間での毒性フラグ付け格差といった公平性指標を用いて、バイアス低減を測定した。
• ゴールドスタンダードアノテーションにおけるラベルバイアスを考慮しながら、標準テストセットでのモデル性能を評価した。

実験結果

リサーチクエスチョン

• RQ1 既存の自動デバイアス手法は、有毒言語検出モデルにおける語彙的および方言的バイアスを効果的に低減できるか？
• RQ2 デバイアス手法は、特にアフリカ系アメリカン英語（AAE）発話に関して、毒性フラグ付けにおける人種的格差をどの程度是正できるか？
• RQ3 方言翻訳に基づく合成データ再ラベル付けは、標準的なデバイアス手法と比較して、どの程度方言的および人種的バイアスを低減できるか？
• RQ4 現在のデバイアスアプローチが、社会的・言語的不平等に根ざしたバイアスを排除できない理由は何か？特に、有毒言語検出において。
• RQ5 データ品質、特に発話者のアイデンティティと方言の表現が、毒性検出システムにおけるバイアス低減に果たす役割は何か？

主な発見

• デバイアス除去トレーニングやデータフィルタリングを含む、既存の自動デバイアス手法は、有毒言語検出モデルにおける語彙的および方言的バイアスの低減に限定的な有効性を示した。
• フィルタリングまたはデバイアス除去されたデータで学習したモデルですら、アフリカ系アメリカン英語（AAE）の特徴を、主流アメリカ英語（MAE）の変種よりも高い頻度で有毒と判定するという顕著なバイアスを示した。
• 方言に配慮した合成再ラベル付け手法により、AAEツイートにおける偽陽性率（FPR）が他のデバイアス手法と比較して1ポイント低減され、公平性の向上が示された。
• AAEで再ラベル付けされたデータで学習したモデルが、すべての他のデバイアス済みおよびベースラインモデルと比較して、人種的格差が最小の毒性フラグ付け率を達成した。
• F1スコアがわずかに低下（1ポイント）したものの、AAEで再ラベル付けされたモデルは、公平性と性能のバランスが最も良く、データ品質の向上がモデルレベルのデバイアス除去よりも影響力が大きいことを示唆した。
• 本研究は、GPT-3 を実世界の方言翻訳に使用する際の注意を喚起しており、事前学習段階でAAEに十分にさらされていないことや、生成出力に毒性が含まれる可能性があるためである。