[論文レビュー] Bias and unfairness in machine learning models: a systematic literature review

Tiago Palma Pagano, Rafael Bessa Loureiro+10 more|arXiv (Cornell University)|Feb 16, 2022

Ethics and Social Impacts of AI被引用数 15

ひとこと要約

2017–2022年の機械学習モデルにおけるバイアスおよび不平等に関するこの体系的文献レビューでは、主な公平性指標、検出および緩和手法、およびAIF360、FairLearn、Aequitasなどのツールを特定している。標準化された指標や手法の欠如が明らかになり、文脈に応じた公平性評価およびブラックボックスモデルの透明性向上の必要性が強調されている。

ABSTRACT

One of the difficulties of artificial intelligence is to ensure that model decisions are fair and free of bias. In research, datasets, metrics, techniques, and tools are applied to detect and mitigate algorithmic unfairness and bias. This study aims to examine existing knowledge on bias and unfairness in Machine Learning models, identifying mitigation methods, fairness metrics, and supporting tools. A Systematic Literature Review found 40 eligible articles published between 2017 and 2022 in the Scopus, IEEE Xplore, Web of Science, and Google Scholar knowledge bases. The results show numerous bias and unfairness detection and mitigation approaches for ML technologies, with clearly defined metrics in the literature, and varied metrics can be highlighted. We recommend further research to define the techniques and metrics that should be employed in each case to standardize and ensure the impartiality of the machine learning model, thus, allowing the most appropriate metric to detect bias and unfairness in a given context.

研究の動機と目的

• 最近の機械学習モデルにおけるバイアスと不平等に関する研究を体系的文献レビュー（SLR）および文献計測分析を用いて検討すること。
• 最近の機械学習研究で用いられている公平性指標、検出手法、緩和戦略、および支援ツールを特定・分類すること。
• バイアス検出および緩和分野における最新の動向を評価し、特に二値分類および多値分類モデルにおけるデータセット、ツール、公平性指標に焦点を当てる。
• 標準化の欠如、文脈に配慮した公平性評価、解釈可能性に関する研究ギャップを強調すること—特にブラックボックスモデルに関して。
• モデルアーキテクチャおよび感受性属性に基づいて、適切な公平性指標および手法を選定するための今後の研究のための提言を提供すること。

提案手法

• Scopus、IEEE Xplore、Web of Science、Google Scholarの4つの学術データベースを用いて、RSL手法に基づく体系的文献レビュー（SLR）を実施した。
• 事前に定めた包含および除外基準に従い、2017年から2022年までの間に発表された45件の適格論文を選定した。
• 出版件数、主要なツール、データセット、公平性指標を含む、公平性研究の動向をマッピングするための文献計測分析を実施した。
• 公平性指標（例：等しい機会（EO）、等しいオッズ（EOO）および予測妥当性（PD））、緩和手法（前処理、処理内、後処理）、およびツール（AIF360、FairLearn、Aequitas、Responsible AI）を分類した。
• 感受性属性が公平性評価に果たす役割を分析し、モデル意思決定における透明性および解釈可能性を評価した。
• 公平性指標の結果がデータセットやモデルタイプにわたって一貫しているかを評価し、バイアス検出における文脈依存性の変動を同定した。

実験結果

リサーチクエスチョン

• RQ1 最近の機械学習研究におけるバイアスと不平等に関して、最も一般的に使用されている公平性指標、検出手法、および緩和戦略は何か？
• RQ2 バイアスおよび公平性研究で最も頻繁に使用されているツールとデータセットは何か？また、それらは検出および緩和をどのように支援しているか？
• RQ3 公平性指標は、異なるモデルアーキテクチャおよび感受性属性によってどのように変動するか？文脈に応じた公平性評価にどのような意味を持つのか？
• RQ4 特にブラックボックスモデルおよび解釈可能性に関して、公平性評価における主な研究ギャップは何か？
• RQ5 公平性指標の選定において、どの程度の標準化がなされており、異なるユースケースにおけるその適切さに影響を与える要因は何か？

主な発見

• Equal Opportunity（EO）、Equalized Odds（EOO）、Predictive Parity（PD）などの多様な公平性指標が使用されているが、単一の指標が普遍的に採用されていないため、研究間でバイアス検出に一貫性が欠けている。
• AIF360、FairLearn、Aequitas、TensorFlow Responsible AI などのツールが公平性評価に広く使用されているが、FairLearnではEOOがサポートされていないことから、ツール固有の制限が存在することが示された。
• 前処理、処理内、後処理の緩和手法がすべて使用されており、感受性属性正則化や損失関数の調整といった処理内手法の採用が増加傾向にある。
• 広範な研究にもかかわらず、公平性指標や緩和手法の包括的かつ形式的な比較は存在せず、文脈に応じた適切な手法の選定に曇りが生じている。
• ブラックボックスモデルは公平性研究において依然として十分に検討されておらず、ホワイトボックスモデルと比較して、解釈可能性および透明性のサポートが著しく不足している。
• 公平性指標の結果はデータセットによって変動しており、バイアスがデータの文脈や感受性属性の定義に応じて異なる形で現れることを示しており、文脈に配慮した公平性評価の必要性が強調されている。