[論文レビュー] Distributive Justice and Fairness Metrics in Automated Decision-making: How Much Overlap Is There?

Matthias Kuppler, Christoph Kern+2 more|arXiv (Cornell University)|May 4, 2021

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

この論文は、自動意思決定における公平性指標が、単なる差別の防止原則にとどまらず、分配的正義理論に根ざすべきであると主張する。予測タスク（現実の正確なモデル化）と意思決定タスク（正義に基づく規範的配分）を区別することで、著者たちは、現在の公平性指標が保護対象グループ間の結果の平等に焦点を当てており、エゴイズム、充足主義、優先主義といったより広範な正義の原則を捉えていないこと、したがってアルゴリズムシステムにおける倫理的設計を制限していることを示している。

ABSTRACT

The advent of powerful prediction algorithms led to increased automation of high-stake decisions regarding the allocation of scarce resources such as government spending and welfare support. This automation bears the risk of perpetuating unwanted discrimination against vulnerable and historically disadvantaged groups. Research on algorithmic discrimination in computer science and other disciplines developed a plethora of fairness metrics to detect and correct discriminatory algorithms. Drawing on robust sociological and philosophical discourse on distributive justice, we identify the limitations and problematic implications of prominent fairness metrics. We show that metrics implementing equality of opportunity only apply when resource allocations are based on deservingness, but fail when allocations should reflect concerns about egalitarianism, sufficiency, and priority. We argue that by cleanly distinguishing between prediction tasks and decision tasks, research on fair machine learning could take better advantage of the rich literature on distributive justice.

研究の動機と目的

• 機械学習における公平性指標と、確立された分配的正義理論との間の概念的ギャップを明確にすること。
• 現在の公平性指標が、エゴイズム、充足主義、優先主義といった分配的正義の核心的原則を十分に捉えていないことの証明。
• 自動化システムにおける予測（現実のモデル化）と意思決定（規範的配分）のタスクを明確に区別することの提唱。
• 開発者とドメイン専門家が、文脈に応じた正義理論に基づいて適切な配分ルールを共同で選択することを促すこと。
• 哲学的および社会学的正義に関する知見を統合することで、公平な機械学習における意思決定空間を拡張すること。

提案手法

• 哲学的および社会学的文献から、代表的な分配的正義理論（例：エゴイズム、充足主義、優先主義）を体系的にレビューする。
• 機械学習における代表的な公平性指標（例：人種的均等性、等しい機会）を分析し、それらを対応する正義理論にマッピングする。
• 予測タスク（実際の結果のモデル化）と意思決定タスク（道徳的価値に基づく公平な配分ルールの定義）を区別する概念的枠組みを提示する。
• 予測モデルが社会的バイアスを正確に反映することで、それらを是正する意思決定ルールを可能にするべきであり、グループ間の出力を均等にすることを制限すべきでないことを主張する。
• 公平性指標は、実際に得られた結果（モデル化されたもの）と、正義理論が定義する望ましい結果との乖離を検出すべきであり、単に平等を強制するものではないと提唱する。
• 技術的開発者とドメイン専門家の協働を通じて、文脈に適した配分ルールを定義する重要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 機械学習における既存の公平性指標は、確立された分配的正義理論とどの程度一致しているか？
• RQ2 なぜ現在の公平性指標は、自動意思決定においてエゴイズム、充足主義、優先主義といった原則を捉えていないのか？
• RQ3 予測と意思決定タスクの区別は、アルゴリズムシステムの倫理的設計をどのように改善できるか？
• RQ4 分配的正義理論は、実世界の応用における公平性指標を形成するために、どのような役割を果たすべきか？
• RQ5 予測の正確性を歪めることなく、規範的正義理想からの乖離を検出できるように、公平性指標をどのように形式化できるか？

主な発見

• 人種的均等性や等しい機会といった現在の公平性指標は、差別の防止論理に限定されており、エゴイズムや優先主義といったより広範な分配的正義の原則とは一致しない。
• 予測モデルは、意思決定ルールによる是正を可能にするために、現実の社会的格差を正確に反映する必要がある。公平性指標はモデルの正確性を制限すべきではない。
• 等しい機会は、配分が「報いる価値」に基づく場合にのみ適用可能であり、エゴイズム的または充足主義的原則が関連する場合には適用されない。
• 予測と意思決定タスクの区別がなされないことで、公平な機械学習における正義の概念が不必要に狭まっている。
• 充足主義や優先主義といった分配的正義理論は、高水準の配分に重要であるにもかかわらず、公平性指標設計においては未だ十分に反映されていない。
• 予測と意思決定タスクの明確な分離により、より柔軟で倫理的根拠があり、文脈に配慮した配分システムが実現可能になる。