[論文レビュー] Towards WinoQueer: Developing a Benchmark for Anti-Queer Bias in Large Language Models

Virginia K. Felkner, Ho-Chun Herbert Chang+2 more|arXiv (Cornell University)|Jun 23, 2022

Hate Speech and Cyberbullying Detection被引用数 5

ひとこと要約

本稿では、大規模言語モデル（LLM）におけるレズビアン・ゲイ・バイセクシュアル・クィア（LGBTQ+）コミュニティに対する反クィアバイアスを測定するためのベンチマーク「WinoQueer」を紹介する。BERTのようなモデルが顕著なホモフォビアおよびトランスフォビアバイアスを示すことが実証された。LGBTQ+コミュニティが生成したソーシャルメディアデータで微調整することで、バイアスは顕著に低減され、下流タスクにおける性能劣化は最小限に抑えられる。

ABSTRACT

This paper presents exploratory work on whether and to what extent biases against queer and trans people are encoded in large language models (LLMs) such as BERT. We also propose a method for reducing these biases in downstream tasks: finetuning the models on data written by and/or about queer people. To measure anti-queer bias, we introduce a new benchmark dataset, WinoQueer, modeled after other bias-detection benchmarks but addressing homophobic and transphobic biases. We found that BERT shows significant homophobic bias, but this bias can be mostly mitigated by finetuning BERT on a natural language corpus written by members of the LGBTQ+ community.

研究の動機と目的

• 大規模言語モデル（LLM）が、LGBTQ+コミュニティ内のマイノリティなサブグループ、特に非バイナリー、Lesbian、Gay、Transの人々に対して反クィアバイアスを内蔵しているかどうかを調査すること。
• NLPバイアス研究が主に人種とバイナリー性別に焦点を当てており、性的指向・ジェンダー・マイノリティが十分に反映されていないというギャップを埋めること。
• 文脈的に繊細で、アイデンティティ固有のプローブを用いた、LLMにおける反クィアバイアスを体系的に測定するための新規ベンチマーク「WinoQueer」の開発。
• 特にLGBTQ+コミュニティのソーシャルメディアから得たコンテンツでLLMを微調整することで、反クィアバイアスが軽減されるかどうかを評価すること。
• 標準的なNLPベンチマークでの性能が著しく低下しないよう、バイアス除去手法の妥当性を保証すること。

提案手法

• WinograndeおよびWinoBiasデータセットを模した構造に基づき、性別的または性的指向に基づく代名詞を用いた文のペアを用いて、反クィアステレオタイプを検出するためのベンチマーク「WinoQueer」を開発した。
• 微調整用の2種類のコーパスを収集した：(1) Twitter上のLGBTQ+コミュニティが発信したツイート（自己表現を反映）、(2) LGBTQ+問題に関するマスコミのニュース記事。
• BERT-base、BERT-large、SpanBERT-base、SpanBERT-largeを、WinoQueerベンチマーク上で、クィアが作成したコンテンツおよびマスコミメディアのコーパスで微調整した。
• バイアススコア（コアフレンス解像タスクにおける「she/her」代名詞のF1スコアと「he/him」代名詞のF1スコアの比）を用いてバイアスを評価した。1.0が完全な公平性を示す。
• OntoNotesおよびGAPデータセットを用いたアブレーションスタディを通じて、バイアス除去が下流タスクの性能に与える影響を評価した。
• 3つの微調整条件（通常（オフザシェルフ）、LGBTQ+ニュースで微調整、LGBTQ+ツイートデータで微調整）におけるモデル性能とバイアススコアを比較した。

実験結果

リサーチクエスチョン

• RQ1 オフザシェルフのLLM、例えばBERTは、非バイナリー、Lesbian、Gay、Transの人々に対してどれほど反クィアバイアスを示すのか？
• RQ2 LGBTQ+コミュニティが生成したコンテンツで微調整することで、マスコミメディアのコンテンツで微調整するのと比べて、反クィアバイアスがより効果的に低減されるのか？
• RQ3 クィアが作成したコンテンツによるバイアス除去は、標準的なNLPベンチマークでの性能に著しい劣化をもたらさないのか？
• RQ4 訓練データの選択（例：ソーシャルメディア対ニュース）が、コアフレンス解像タスクにおけるモデルの性別および性的指向バイアスにどのように影響するのか？
• RQ5 クィアコンテンツで微調整することで、コアフレンス解像モデルに既存の性別バイアスが軽減されるのか、あるいは悪化するのか？

主な発見

• オフザシェルフのBERTモデルは、WinoQueerベンチマークにおいて顕著なホモフォビアおよびトランスフォビアバイアスを示しており、バイアススコアが1.0から逸脱していることから、体系的な反クィアステレオタイプが内蔵されていることが示された。
• LGBTQ+コミュニティのツイートデータでBERTを微調整することで、マスコミニュースで微調整するのと比べて、バイアスがより顕著に低減された。これは、自己表現がバイアス低減に寄与することを示唆している。
• クィアのツイートデータで微調整したBERT-baseモデルは、GAPデータセットでバイアススコア0.95を達成したのに対し、通常モデルでは0.97であった。これは明確な改善を示している。
• SpanBERTモデルは全体的にバイアスが少なく、SpanBERT-largeはGAPデータセットで0.95、ニュース微調整版では0.93のバイアススコアを示した。これは、特定のバイアスに対して内在的に強い耐性を示している可能性を示唆している。
• クィアのツイートデータで微調整したことで、性能劣化は最小限に抑えられ、BERT-baseのOntoNotesタスクではF1スコアがわずか1.8%低下したにとどまり、Catastrophic forgetting（途切れ的忘却）は発生しなかった。
• 驚くべきことに、マスコミのLGBTQ+ニュースで微調整すると一部のモデルでバイアスがわずかに増加した。これは、マスコミ報道がコミュニティ生成コンテンツよりもステレオタイプ的な言語を内蔵している可能性を示唆している。