[論文レビュー] The Pursuit of Fairness in Artificial Intelligence Models: A Survey

Tahsin Alamgir Kheya, Mohamed Reda Bouadjenek+1 more|arXiv (Cornell University)|Mar 26, 2024

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

この2024年の調査は、AIにおける公正性の定義、バイアスのタイプ、そして緩和手法をレビューし、それらの適用可能性を領域横断で評価し、倫理的含意を論じる。

ABSTRACT

Artificial Intelligence (AI) models are now being utilized in all facets of our lives such as healthcare, education and employment. Since they are used in numerous sensitive environments and make decisions that can be life altering, potential biased outcomes are a pressing matter. Developers should ensure that such models don't manifest any unexpected discriminatory practices like partiality for certain genders, ethnicities or disabled people. With the ubiquitous dissemination of AI systems, researchers and practitioners are becoming more aware of unfair models and are bound to mitigate bias in them. Significant research has been conducted in addressing such issues to ensure models don't intentionally or unintentionally perpetuate bias. This survey offers a synopsis of the different ways researchers have promoted fairness in AI systems. We explore the different definitions of fairness existing in the current literature. We create a comprehensive taxonomy by categorizing different types of bias and investigate cases of biased AI in different application domains. A thorough study is conducted of the approaches and techniques employed by researchers to mitigate bias in AI models. Moreover, we also delve into the impact of biased models on user experience and the ethical considerations to contemplate when developing and deploying such models. We hope this survey helps researchers and practitioners understand the intricate details of fairness and bias in AI systems. By sharing this thorough survey, we aim to promote additional discourse in the domain of equitable and responsible AI.

研究の動機と目的

• 医療、教育、金融など、ハイリスクな意思決定が行われる領域におけるAIの公正性の必要性を喚起する。
• 既存の公正性の定義を整理し、MLシステムにおけるバイアスの包括的な分類体系を確立する。
• データ、人、モデルのソースにおけるバイアスの原因を検討し、緩和技術とそれらの領域適用性を調査する。
• 偏りのあるAIがユーザー体験に与える影響と、開発・展開における倫理的配慮を論じる。
• 現在の公正性研究における課題と限界を抽出し、今後の研究の指針とする。

提案手法

• MLにおける公正性の定義とバイアスの文献総説を実施する。
• MLにおける公正性の分類体系を提案し、例示する（集団、公正、個別、交差的、因果ベース）。
• データ駆動、人的、モデルの次元に沿ってバイアスを分類し、例を挙げる。
• 医療、教育、金融、NLPなどの領域横断で緩和戦略とその適用性を調査する。
• 既存の調査と比較し、ユーザー体験への影響や倫理といった見落とされがちなトピックを強調する。
• 現在の公正性研究における課題と限界について批判的に論じる。

実験結果

リサーチクエスチョン

• RQ1 機械学習で用いられる公正性の主要な定義と分類体系は何か？
• RQ2 MLパイプラインで生じるバイアスの種類とそれをいかに緩和できるか？
• RQ3 公正性の概念とバイアスは異なる適用領域でどのように現れるか？
• RQ4 公正なAIシステムを展開する際の倫理的配慮とユーザー体験への影響は何か？

主な発見

• MLにおける公正性は多面的で定義が多数存在するため、現行の基準下で絶対的な公正性を達成することは不可能である。
• 包括的な分類体系は、集団、公正、個人、交差的、因果ベースの公正性の概念を区別し、さまざまな指標（例：Demographic Parity, Equalized Odds, Calibration）も含む。
• バイアスはデータ、人的、モデルレベルで発生し、測定、表現、ラベリング、サンプリング、歴史的、展開バイアスなどを含む。
• 公正性関連の文献量は増加しており、先行の調査は広範囲または領域特有の側面を扱ってきたが、本研究はユーザー体験と倫理を未探索の領域として強調する。
• 本論は倫理的ガイドラインと信頼を維持するためにAIシステム展開時に社会技術的文脈を考慮する必要性について論じる。