[論文レビュー] Fairness in Machine Learning: Lessons from Political Philosophy

Reuben Binns|arXiv (Cornell University)|Dec 10, 2017

Ethics and Social Impacts of AI参考文献 32被引用数 390

ひとこと要約

この論文は差別と平等主義の哲学的理論を調査し、機械学習における「公正さ」が何を意味するかを明確にし、異なる文脈で適切な公正性指標とアプローチを導く。

ABSTRACT

What does it mean for a machine learning model to be `fair', in terms which can be operationalised? Should fairness consist of ensuring everyone has an equal probability of obtaining some benefit, or should we aim instead to minimise the harms to the least advantaged? Can the relevant ideal be determined by reference to some alternative state of affairs in which a particular social pattern of discrimination does not exist? Various definitions proposed in recent literature make different assumptions about what terms like discrimination and fairness mean and how they can be defined in mathematical terms. Questions of discrimination, egalitarianism and justice are of significant interest to moral and political philosophers, who have expended significant efforts in formalising and defending these central concepts. It is therefore unsurprising that attempts to formalise `fairness' in machine learning contain echoes of these old philosophical debates. This paper draws on existing work in moral and political philosophy in order to elucidate emerging debates about fair machine learning.

研究の動機と目的

• 機械学習の公正性の関心事に、差別の哲学的概念がどのように対応するかを明確にする。
• 機械学習における公正性指標の選択と優先順位付けに、さまざまな平等主義的枠組みがどのように影響するかを探る。
• 機械学習システムにおける公正性介入に影響を与えるべき文脈的・歴史的要因を強調する。

提案手法

• 差別の主要な哲学理論を調査・統合する（精神状態説と非精神状態説）。
• 平等主義的議論を検討する（平等主義の貨幣概念、正義の領域、幸運対報酬、義務法的正義）。
• 哲学的分析を、一般的なML公正指標（人口統計的パリティ、精度の公平性、機会均等、差別的扱いの不均等）に結びつける。
• 特徴量選択と公正性介入を情報するべき歴史的・社会学的・文脈的要因について論じる。

実験結果

リサーチクエスチョン

• RQ1 アルゴリズム的意思決定において何が差別とみなされるのか、そしてそれが道徳的に問題となるのはいつか？
• RQ2 異なる平等主義理論は、機械学習における公正の基準（例：結果の平等性対機会の平等性、運の平等主義的配慮）へどのように翻訳されるか？
• RQ3 歴史的・社会学的文脈は、機械学習における公正性評価と緩和戦略にどのように影響すべきか？
• RQ4 機械学習の公正さにおける表象的被害と分配的被害の関連性は何か？

主な発見

• 哲学における差別観念（精神状態説と一般化ベースの説明）は、アルゴリズムには直接的に適用可能性が限られており、代替的な公正性の基盤を示唆している。
• 平等主義理論は、平等主義の貨幣性、正義の領域、幸運対報酬、義務法的正義といったより豊かな枠組みを提供し、MLにおける公正性介入を正当化・優先付けする。
• MLの公正性はしばしば、互換性のない指標間のトレードオフを伴い（例：精度の公平性と偽陽性率の均等化）、義務法的・歴史的考慮を通じてよりよく理解できる。
• 表象的被害（例：偏った文化的表現）は、分配的被害とは異なる公正性目標を必要とし、MLシステムに特有の課題を提起する。
• 正義の領域や歴史的な不正といった文脈的要因は、特定の状況で適切な公正性指標と緩和策を導くべきである。