[論文レビュー] On Formalizing Fairness in Prediction with Machine Learning

Pratik Gajane, Pechenizkiy, Mykola|arXiv (Cornell University)|Oct 9, 2017

Ethics and Social Impacts of AI参考文献 57被引用数 162

ひとこと要約

本調査は、機械学習予測における公正性の形式化を分析し、それぞれの形式化を社会科学の分配的正義の概念に結びつけ、批判と将来の方向性を論じる。

ABSTRACT

Machine learning algorithms for prediction are increasingly being used in critical decisions affecting human lives. Various fairness formalizations, with no firm consensus yet, are employed to prevent such algorithms from systematically discriminating against people based on certain attributes protected by law. The aim of this article is to survey how fairness is formalized in the machine learning literature for the task of prediction and present these formalizations with their corresponding notions of distributive justice from the social sciences literature. We provide theoretical as well as empirical critiques of these notions from the social sciences literature and explain how these critiques limit the suitability of the corresponding fairness formalizations to certain domains. We also suggest two notions of distributive justice which address some of these critiques and discuss avenues for prospective fairness formalizations.

研究の動機と目的

• 機械学習予測文献における公正性の形式化を調査する。
• 機械学習の公正性概念を社会科学の分配的正義概念に対応づける。
• 社会科学文献を用いて各公正性の形式化を批評する。
• 今後の研究のために社会科学から2つの有望な公正性概念を提案する。

提案手法

• 機械学習の公正性概念をレビューし分類する（無知性/不認識, 反実仮想公正, グループ公正, 個人公正, 機会の平等, 好みベースの公正）。
• 各概念を形式的定義と分配的正義理論との結びつきとともに説明する。
• 各概念に対する社会科学的批評を提供する（偏り、限界、適用領域の適合性）。
• ２つの有望な概念（資源の平等；機能の能力の平等）と、それらの機械学習への潜在的な形式化を論じる。
• 関連文献と実証的考慮を横断参照して、領域横断での適用可能性を評価する。

実験結果

リサーチクエスチョン

• RQ1 予測的意思決定に関して、文献にはどのような機械学習の公正性の形式化が存在するか。
• RQ2 これらの機械学習の概念は、社会科学の分配的正義理論とどのように整合するか、あるいは対立するか。
• RQ3 各公正性形式化の批評は何か、どの領域で適用が適さない可能性があるか。
• RQ4 機械学習のための新しくより堅牢な公正性形式化を導く社会科学の概念は何か。
• RQ5 資源の平等または能力の平等を機械学習の公正性フレームワークに組み込む道は何か。

主な発見

• 公正性の形式化は、平等性（パリティ）対好み、処遇対影響、グループ対個人の概念のどちらを対象とするかで異なる。
• グループ公正は、真理値に依存せず統計的またはデモグラフィックな平等性に依存するため、功績や効率性を誤って示す可能性がある。
• 反事実的公正は因果推論を用いるが、偏りや因果性の課題に脆弱な可能性がある。
• 個人公正は出力を距離指標に結びつけるが、非差別的な指標に依存するため保証が難しい。
• 機会の平等には、人生展望に影響を与えるより広範な社会的影響を扱わないという批判がある。
• 著者らは、資源の平等と機能の能力の平等を、制約に対処する有望な公正性概念として提案している。