[論文レビュー] Escaping the Impossibility of Fairness: From Formal to Substantive Algorithmic Fairness

Ben Green|arXiv (Cornell University)|Jul 9, 2021

Ethics and Social Impacts of AI参考文献 15被引用数 11

ひとこと要約

この論文は、アルゴリズム意思決定における「公平性の非可能性」を挑戦し、意思決定を広範な社会的文脈から孤立させることで定式化された公平性定義を批判する。実質的アルゴリズム的公平性——法的および哲学的理論に基づく実質的平等——を提唱し、数学的制約がある中でも、現実の正義の結果に基づいてアルゴリズムを評価する手法を提供することで、公共政策応用における意味のある公平性を実現する。

ABSTRACT

Efforts to promote equitable public policy with algorithms appear to be fundamentally constrained by the "impossibility of fairness" (an incompatibility between mathematical definitions of fairness). This technical limitation raises a central question about algorithmic fairness: How can computer scientists and policymakers support equitable policy reforms with algorithms? In this article, I argue that promoting justice with algorithms requires reforming the methodology of algorithmic fairness. First, I diagnose the problems of the current methodology for algorithmic fairness, which I call "formal algorithmic fairness." Because formal algorithmic fairness restricts analysis to isolated decision-making procedures, it leads to the impossibility of fairness and to models that exacerbate oppression despite appearing "fair." Second, I draw on theories of substantive equality from law and philosophy to propose an alternative methodology, which I call "substantive algorithmic fairness." Because substantive algorithmic fairness takes a more expansive scope of analysis, it enables an escape from the impossibility of fairness and provides a rigorous guide for alleviating injustice with algorithms. In sum, substantive algorithmic fairness presents a new direction for algorithmic fairness: away from formal mathematical models of "fair" decision-making and toward substantive evaluations of whether and how algorithms can promote justice in practice.

研究の動機と目的

• 形式的アルゴリズム的公平性の手法に内在する限界——意思決定手順を孤立した分析に限定すること——を診断すること。
• 数学的に「公平」とされるアルゴリズムでさえも構造的抑圧を継続するというパラドックスを解決すること。
• 実質的アルゴリズム的公平性——現実の社会的正義への影響に基づいてアルゴリズムを評価する——という新しい枠組みを提唱すること。
• 形式的数学的公平性から、公共政策におけるアルゴリズム的正義の実践的・文脈依存的評価への焦点の転換を図ること。
• アルゴリズムが真正に公平な政策改革を支援できるようにする、理論的根拠に基づいた厳密な代替手法を提供すること。

提案手法

• 法と哲学における実質的平等の理論を基盤として、数学的定義を超えて公平性を再定義する。
• 歴史的・構造的・文脈的要因がアルゴリズム的結果に与える影響を含む、より広範な分析的範囲を提唱する。
• アルゴリズムを、単独の公平性指標への適合度ではなく、社会的正義の促進または損なう役割によって評価する。
• 支配的構造、歴史的マイノリティ化、制度的文脈がアルゴリズム的影響を評価する上で重要であることを強調する。
• アルゴリズムシステムの評価に、クィア・レース理論と批判的法学研究を統合する。
• アルゴリズム的公平性を、純粋な技術的最適化問題ではなく、規範的かつ文脈依存的な問いとして位置づける。

実験結果

リサーチクエスチョン

• RQ1 なぜ形式的公平性定義では、アルゴリズム的意思決定における構造的抑圧を防げないのか？
• RQ2 数学的不整合を超えて、正義を実現するためには、アルゴリズム的公平性をどのように再定義できるか？
• RQ3 公平性指標に準拠しているにもかかわらず、歴史的・構造的パワー・ダイナミクスがアルゴリズム的結果に与える影響は何か？
• RQ4 法的および哲学的理論における実質的平等の理論が、アルゴリズムシステムの評価にどのように寄与できるか？
• RQ5 アルゴリズムを単に孤立した文脈での公平性ではなく、社会的公平性に与える現実世界の影響について、どのように評価できるか？

主な発見

• 形式的アルゴリズム的公平性は、意思決定を広範な社会的・歴史的文脈から切り離すため、『公平性の非可能性』を招く。
• 構造的不平等に注意を払わなければ、数学的公平性定義でも被害を防げない。
• 実質的アルゴリズム的公平性は、より厳密で文脈に配慮したアルゴリズム評価を可能にし、構造的不正義を特定・是正できる。
• 形式的指標だけでは「公平」とされるアルゴリズムでも、実質的公平性の枠組みで評価すると、抑圧を継続していることが判明する。
• 実質的平等に基づく公平性の根拠により、アルゴリズムが公平な公共政策を支援する実用的道筋が提供される。
• 本論文は、アルゴリズム的公平性が技術的最適化タスクではなく、規範的・正義志向の問いとして再定義されなければならないことを示している。