[論文レビュー] Fairness And Bias in Artificial Intelligence: A Brief Survey of Sources, Impacts, And Mitigation Strategies

Emilio Ferrara|arXiv (Cornell University)|Apr 16, 2023

Ethics and Social Impacts of AI参考文献 51被引用数 74

ひとこと要約

この論文は、AIの公正性と偏りの源泉、社会的影響、および緩和戦略を調査しており、特に生成系AIの偏りと学際的アプローチの必要性に重点を置いています。

ABSTRACT

The significant advancements in applying Artificial Intelligence (AI) to healthcare decision-making, medical diagnosis, and other domains have simultaneously raised concerns about the fairness and bias of AI systems. This is particularly critical in areas like healthcare, employment, criminal justice, credit scoring, and increasingly, in generative AI models (GenAI) that produce synthetic media. Such systems can lead to unfair outcomes and perpetuate existing inequalities, including generative biases that affect the representation of individuals in synthetic data. This survey paper offers a succinct, comprehensive overview of fairness and bias in AI, addressing their sources, impacts, and mitigation strategies. We review sources of bias, such as data, algorithm, and human decision biases - highlighting the emergent issue of generative AI bias where models may reproduce and amplify societal stereotypes. We assess the societal impact of biased AI systems, focusing on the perpetuation of inequalities and the reinforcement of harmful stereotypes, especially as generative AI becomes more prevalent in creating content that influences public perception. We explore various proposed mitigation strategies, discussing the ethical considerations of their implementation and emphasizing the need for interdisciplinary collaboration to ensure effectiveness. Through a systematic literature review spanning multiple academic disciplines, we present definitions of AI bias and its different types, including a detailed look at generative AI bias. We discuss the negative impacts of AI bias on individuals and society and provide an overview of current approaches to mitigate AI bias, including data pre-processing, model selection, and post-processing. We emphasize the unique challenges presented by generative AI models and the importance of strategies specifically tailored to address these.

研究の動機と目的

• AIアプリケーション（医療、雇用、刑事司法、信用、GenAI）全般における公正性の懸念の研究動機付け。
• 偏りの源泉（データ、アルゴリズム、人間の意思決定）を特徴づけ、AIの偏りと生成系AIの偏りを定義する。
• 偏ったAIの社会的影響とステレオタイプの強化を探る。
• データ前処理、モデル選択、ポスト処理などの緩和戦略と倫理的配慮をレビューする。

提案手法

• 複数の学術分野にわたる系統的文献調査を実施する。
• 生成系AIの偏りを含むAI偏りの定義と類型を提供する。
• 緩和戦略とその倫理的影響について議論する。
• 効果を高めるための学際協力の課題と必要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 AIシステムの主な偏りの源泉は何か（データ、アルゴリズム、人間の決定）？
• RQ2 特に生成系AIにおける偏ったAIの社会的影響は何か？
• RQ3 AIの偏りに対する緩和戦略には何があり、それらはどのような倫理的配慮を伴うのか？
• RQ4 公正性と偏りに対処するために学際協力をどのように組織すべきか？

主な発見

• 偏ったAIはデータ、アルゴリズム、ヒューマンデシジョンのプロセスに起因する。
• 生成系AIの偏りは、社会的ステレオタイプを再現・増幅する新たな問題である。
• 偏ったAIは格差を固定化し、さまざまな分野で有害なステレオタイプを強化する可能性がある。
• 緩和アプローチにはデータの前処理、モデル選択、ポスト処理が含まれ、それぞれ倫理的配慮が伴う。
• Generative AIは固有の課題を提示し、特化した戦略を必要とする。