[論文レビュー] BiasFinder: Metamorphic Test Generation to Uncover Bias for Sentiment Analysis Systems

Muhammad Hilmi Asyrofi, Zhou Yang+4 more|arXiv (Cornell University)|Feb 3, 2021

Topic Modeling被引用数 8

ひとこと要約

BiasFinder は、大規模なテキストコーパスから動的にテンプレートをキュレートし、性的特徴語（例：性別、職業、出身国）で変異を加えることで、感情分析（SA）システムにおけるデモグラフィックバイアスを特定するための自動メタモーフィックテストフレームワークである。複数のバイアスタイプ、特に性別、職業、出身国バイアスにおいて、先行手法を上回るバイアスを暴き出すテストケース（BTC）を生成し、より自然で多様なテストケースを生成する。

ABSTRACT

Artificial Intelligence (AI) software systems, such as Sentiment Analysis (SA) systems, typically learn from large amounts of data that may reflect human biases. Consequently, the machine learning model in such software systems may exhibit unintended demographic bias based on specific characteristics (e.g., gender, occupation, country-of-origin, etc.). Such biases manifest in an SA system when it predicts a different sentiment for similar texts that differ only in the characteristic of individuals described. Existing studies on revealing bias in SA systems rely on the production of sentences from a small set of short, predefined templates. To address this limitation, we present BisaFinder, an approach to discover biased predictions in SA systems via metamorphic testing. A key feature of BisaFinder is the automatic curation of suitable templates based on the pieces of text from a large corpus, using various Natural Language Processing (NLP) techniques to identify words that describe demographic characteristics. Next, BisaFinder instantiates new text from these templates by filling in placeholders with words associated with a class of a characteristic (e.g., gender-specific words such as female names, "she", "her"). These texts are used to tease out bias in an SA system. BisaFinder identifies a bias-uncovering test case when it detects that the SA system exhibits demographic bias for a pair of texts, i.e., it predicts a different sentiment for texts that differ only in words associated with a different class (e.g., male vs. female) of a target characteristic (e.g., gender). Our empirical evaluation showed that BiasFinder can effectively create a larger number of fluent and diverse test cases that uncover various biases in an SA system.

研究の動機と目的

• 手作業で作成された限られたテンプレートに依存する従来のバイアス検出手法の限界を是正すること。
• 性別、職業、出身国など複数の特性における感情分析システムのデモグラフィックバイアスを自動的かつスケーラブルに特定するアプローチの開発。
• メタモーフィックテストを用いて、フェアネスバグを露呈する自然で多様かつ現実的なテストケースを生成すること。
• EEC や MT-NLP といった既存手法と比較して、生成されたテストケースの有効性と自然さを評価すること。
• 性別バイアスにとどまらず、自然言語処理システムにおける他の公平性問題にも一般化可能なアプローチであることを示すこと。

提案手法

• BiasFinder は、自然言語処理技術を用いて、デモグラフィック特性に関連する語（例：性別固有の代名詞、名前、職業用語）を特定することで、大規模なテキストコーパスからバイアスを暴くためのテンプレートを自動的にキュレートする。
• テンプレート内のプレースホルダ語を、ターゲット特性の異なるクラスの語（例：'she' → 'he'、'doctor' → 'nurse'）に置き換えることで、変異を加えたテストケースを生成する。
• 元のテキストとデモグラフィック属性語のみが異なる変異テキストの間で感情予測を比較することで、メタモーフィックテストを適用する。
• 元のテキストと変異テキストが他の点で同一であるにもかかわらず、SAシステムが異なる感情スコアを割り当てる場合、バイアスを暴くテストケース（BTC）と識別する。
• 生成されたテストケースが自然で意味的に整合性を持つように、自然言語処理を活用する。
• 実験的評価では、複数のSAモデルと人間のアノテーションを用いて、BiasFinder のBTC検出率と自然さを、EEC や MT-NLP と比較する。

実験結果

リサーチクエスチョン

• RQ1 BiasFinder は、手作業でキュレートされたテンプレートと比較して、より多数の多様で自然なテストケースを自動生成し、感情分析システムのバイアスを特定できるか？
• RQ2 BiasFinder は、性別にとどまらず、職業や出身国など複数のデモグラフィック特性においても、バイアスを効果的に検出できるか？
• RQ3 BiasFinder が生成するテストケースの自然さは、EEC や MT-NLP といった既存手法のものと比較してどうか？
• RQ4 BiasFinder は、さまざまなSAモデルにおいて、先行手法よりも多くのバイアスを暴くテストケース（BTC）を検出できるか？
• RQ5 BiasFinder は、感情分析を越えて、他の自然言語処理タスクにおける公平性テストにも一般化できるか？

主な発見

• 評価されたすべてのSAモデルにおいて、BiasFinder は EEC や MT-NLP よりもより多くの性別バイアスを暴くテストケース（BTC）を発見した。
• このフレームワークは、従来の手法がカバーしていなかった職業や出身国バイアスに対しても、追加のBTCを効果的に検出した。
• 人間のアノテーターは、BiasFinder が生成した変異テキストを、MT-NLP が生成したものよりも自然さが高く評価した。これは、自然言語の質が向上していることを示している。
• 大規模コーパスから自動でキュレートされたテンプレートの使用により、事前に定義された限られたテンプレートよりも、より多様で現実的であるテストケースが生成された。
• 手動での再設定を必要とせず、複数のデモグラフィック特性に迅速に適応できるため、BiasFinder はスケーラビリティと柔軟性を示した。
• 実験的評価により、自動テンプレートキュレートを伴うメタモーフィックテストが、感情分析システムにおけるフェアネスバグの特定に有効であることが確認された。