[論文レビュー] An Introduction to Algorithmic Fairness

Hilde Weerts|arXiv (Cornell University)|May 12, 2021

Ethics and Social Impacts of AI参考文献 18被引用数 5

ひとこと要約

この論文は、割り当て、サービス品質、ステレオタイプ化、貶めの害を通じて機械学習システムがバイアスを継続的または拡大する仕組みを分析し、アルゴリズム的公平性のコアな概念を導入する。バイアスを機械学習ライフサイクル全体にわたってマップし、文脈に応じた公平性の定義と開発プロセス全体にわたる能動的バイアス低減を提唱することで、包括的な害を低減する。

ABSTRACT

In recent years, there has been an increasing awareness of both the public and scientific community that algorithmic systems can reproduce, amplify, or even introduce unfairness in our societies. These lecture notes provide an introduction to some of the core concepts in algorithmic fairness research. We list different types of fairness-related harms, explain two main notions of algorithmic fairness, and map the biases that underlie these harms upon the machine learning development process.

研究の動機と目的

• 研究者および実務家向けにアルゴリズム的公平性について包括的な概要を提供すること。
• 機械学習システムにおける公平性関連の害の種類を特定・分類すること。
• 機械学習開発ライフサイクルにわたるバイアスの発生源をマップすること。
• 公平性が文脈依存的であり、価値に配慮した設計が求められることを強調すること。
• 機械学習開発プロセス全体にわたる能動的バイアス低減を提唱すること。

提案手法

• 公平性関連の害を4つのタイプに分類する：割り当て、サービス品質、ステレオタイプ化、貶め。
• アルゴリズム的公平性の2つの主要な概念を導入する：統計的同等性と同等の機会、それらが価値に満ちた性質を有することを認識する。
• データ収集、特徴工学、モデル学習、ステークホルダーとのインタラクションを含む、MLパイプライン全体におけるバイアスの発生源をマップする。
• 予測警察における強化フィードバックループやレコメンデーションシステムにおける人気バイアスといったフィードバックループを分析する。
• 実世界の例（例：アマゾンのレジュメスクリーニングツール、顔認識のバイアス）を用いて、バイアスの拡散を説明する。
• シミュレーションとシステムダイナミクスモデリングを、フィードバックループリスクを予測・評価するためのツールとして提案する。

実験結果

リサーチクエスチョン

• RQ1 割り当て、サービス品質、ステレオタイプ化、貶めといった、公平性関連の害が機械学習システムにどのように現れるのか。
• RQ2 バイアスが導入されたり拡大されたりする機械学習ライフサイクルの主な段階は何か。
• RQ3 予測警察におけるフィードバックループが、歴史的バイアスをどのように継続的・拡大的にするのか。
• RQ4 アルゴリズム的システムにおける公平性に普遍的な定義がないのはなぜか。また、公平性はどのように文脈に応じて選択すべきか。
• RQ5 エンドツーエンドの機械学習開発プロセス全体にわたってバイアスを低減するための戦略は何か。

主な発見

• 機械学習システムは、感受性属性を明示的に使用しない場合でも、社会的バイアスを再現または拡大する可能性がある。アマゾンのレジュメスクリーニングツールが女性に関連する用語をペナルティ化した例がこれに当たる。
• 顔認識システムでは、肌が濃い女性の誤り率が高く、訓練データにおける代表性の不足が原因でサービス品質の害が生じている。
• 予測警察におけるフィードバックループは、自己実現的予言を生み出す。地域に警察の存在が増えると、検出される犯罪数も増加し、バイアスの強い予測が強化される。
• ステークホルダーの解釈バイアス（例：特定のグループに対してリスクスコアを過剰に重視する裁判官）は、モデル予測以上の不平等を引き起こす可能性がある。
• 自然言語処理やコンピュータビジョンでは、訓練データのバイアスによりステレオタイプ化の害が広がっており、例えば「CEO」と検索すると白人男性と関連づけられる画像検索結果がこれに当たる。
• 一様な公平性指標は存在しない。さまざまな公平性基準は異なる倫理的価値を反映しており、選択は文脈特異的かつ価値に基づくべきである。