[論文レビュー] Equality of Opportunity in Supervised Learning

Moritz Hardt, Eric Price+1 more|arXiv (Cornell University)|Oct 7, 2016

Ethics and Social Impacts of AI参考文献 6被引用数 1,909

ひとこと要約

本論文は protected attribute A を用いて X から Y を予測する際の oblivious な公平性基準（等化オッズと等機会）を定義し、任意の予測子を後処理して差別を排除しつつ利用価値を維持または向上させる方法を示す。

ABSTRACT

We propose a criterion for discrimination against a specified sensitive attribute in supervised learning, where the goal is to predict some target based on available features. Assuming data about the predictor, target, and membership in the protected group are available, we show how to optimally adjust any learned predictor so as to remove discrimination according to our definition. Our framework also improves incentives by shifting the cost of poor classification from disadvantaged groups to the decision maker, who can respond by improving the classification accuracy. In line with other studies, our notion is oblivious: it depends only on the joint statistics of the predictor, the target and the protected attribute, but not on interpretation of individualfeatures. We study the inherent limits of defining and identifying biases based on such oblivious measures, outlining what can and cannot be inferred from different oblivious tests. We illustrate our notion using a case study of FICO credit scores.

研究の動機と目的

• 監督学習における保護属性に関する無視可能な非差別性の概念を形式化する。
• 学習済みの予測子またはスコアから非差別的な予測子を導出する後処理フレームワークを提案する。
• Bayes最適な非差別予測子はBayes最適回帰器から得られることを示す。
• 無視可能な公平性アプローチの本質的な限界と差別の識別性を分析する。

提案手法

• 条件付き独立性 Y を条件とした観点で等化オッズと等機会を定義する。
• 初期予測子と保護属性 A のみに依存する導出予測子を導入する。
• バイナリYとAの場合、最小損失で等化オッズ予測子を見つけるため線形計画問題として定式化する。
• 実数値スコア R に拡張する。分解閾値とランダム閾値付けを用いて等化オッズを達成する。
• Bayes最適な等化オッズ予測子はBayes最適回帰器から導出できることを示し、条件付きKolmogorov距離を用いた近似最適性の結果を提供する。

実験結果

リサーチクエスチョン

• RQ1 個々の特徴を無視し、Y, Ŷ, A の結合統計のみに依存するような差別をどのように定義・測定できるか？
• RQ2 学習済みの予測子を後処理して等化 odds または等機会を最小限の予測精度の損失で満たすことができるか？
• RQ3 oblivious fairness 制約下での Bayes最適予測子とバイアス耐性バージョンとの関係は何か？
• RQ4 真の基盤となる差別構造を特定する際の無視可能なテストの限界は何か？

主な発見

• 保護属性に基づく差別回避の容易に確認できる解釈可能な概念が提案され、それが改善された利用価値と一致することが示される。
• 元のモデルを再訓練することなく、任意の二値予測子またはスコアから非差別的な予測子を後処理で導出できる。
• バイナリYとAの場合、導出された等化オッズ予測子は (Ŷ, A, Y) の結合分布から計算された係数を用いた線形計画問題によって得られる。
• 同様のアプローチでより弱い制約を持つ等機会を達成でき、閾値の最適化は三分探索などで効率的に行える。
• Bayes最適な等化オッズ予測子は Bayes最適回帰器から導出可能であり、近似最適性の結果は回帰器が Bayes 最適性から逸脱する場合の損失を定量化する。