[論文レビュー] Bias, Fairness, and Accountability with AI and ML Algorithms

Nengfeng Zhou, Zach Zhang+4 more|arXiv (Cornell University)|May 13, 2021

Ethics and Social Impacts of AI参考文献 47被引用数 9

ひとこと要約

この論文は、AIおよび機械学習アルゴリズムにおけるバイアス、公平性、責任の取り方について包括的なサーベイを提供しており、データバイアスの原因、アルゴリズム的不平等の種類、公平性メトリクスを分析している。モデルライフサイクル全体にわたるバイアス除去技術をレビューし、現在の公平性メトリクスの限界を強調し、機械学習システムにおける倫理的課題に対処するための構造的なフレームワークを提示している。

ABSTRACT

The advent of AI and ML algorithms has led to opportunities as well as challenges. In this paper, we provide an overview of bias and fairness issues that arise with the use of ML algorithms. We describe the types and sources of data bias, and discuss the nature of algorithmic unfairness. This is followed by a review of fairness metrics in the literature, discussion of their limitations, and a description of de-biasing (or mitigation) techniques in the model life cycle.

研究の動機と目的

• 機械学習システムにおけるデータバイアスの原因と種類を体系的かつ分析すること。
• 実装済みの機械学習モデルにおけるアルゴリズム的不平等の性質と現れ方を検討すること。
• 文献に登場する既存の公平性メトリクスをレビュー・批判し、その限界を特定すること。
• データ前処理からモデル推論に至るまで、機械学習ライフサイクルの各段階におけるバイアス除去技術を検討すること。
• AIシステムにおける責任と公平性を向上させるための構造的フレームワークを提供すること。

提案手法

• データ収集およびラベリングプロセスに基づき、データバイアスを代表性の欠如、測定、手順的タイプに分類すること。
• 実世界の事例研究を用いて、アルゴリズム的不平等を個人、グループ、社会的レベルの格差に分類すること。
• デモグラフィックパラメータ、等しい機会、等価なオッズといった公平性メトリクスをサーベイし、その仮定と限界を厳密に評価すること。
• 前処理（例：重み付けの再調整、敵対的バイアス除去）、処理内（例：最適化における公平性制約）、後処理（例：しきい値の調整）を含む、MLパイプライン全体にわたるバイアス除去技術のマッピング。
• バイアス低減戦略における公平性、正確性、その他のモデルパフォーマンスメトリクスのトレードオフを分析すること。
• 公平性を多様な次元的、文脈依存的特性として捉え、学際的考察を要請する包括的視点を提示すること。

実験結果

リサーチクエスチョン

• RQ1 機械学習モデルにおける不平等を引き起こす主なデータバイアスの原因と種類は何か？
• RQ2 異なる公平性メトリクスは実際にはどのように機能するのか。それらに内在する限界は何か？
• RQ3 機械学習ライフサイクルの異なる段階で、最も効果的なバイアス除去技術は何か？
• RQ4 実世界の応用において、公平性をモデルの正確性や有用性とどのように意味的にバランスさせるか？
• RQ5 AIシステムにおける責任と透明性を阻害するシステム的・技術的課題は何か？

主な発見

• データバイアスは、代表的でないサンプリング、測定誤差、不適切なデータ収集手順に起因し、モデルの結果に顕著な影響を与える。
• アルゴリズム的不平等は、特に採用や融資などのハイリスク分野において、訓練データに存在する歴史的バイアスをモデルが拡大する場合に顕在化しやすい。
• デモグラフィックパラメータや等しい機会といった一般的な公平性メトリクスは文脈に依存しやすく、互いに矛盾するか、モデルの正確性とも衝突する可能性がある。
• バイアス除去技術は有望ではあるが、公平性、正確性、公平性基準の間でトレードオフを伴うことが多く、万能な解決策は存在しない。
• しきい値調整のような後処理手法は再トレーニングなしに公平性を向上させられるが、感受性の高い応用ではモデルの有用性を低下させる可能性がある。
• 本論文は、公平性が一時的な修正ではなく、継続的な監視、文脈に配慮した設計、学際的協働を要するものであると結論づけている。