[論文レビュー] On Fairness and Calibration

Geoff Pleiss, Manish Raghavan+3 more|arXiv (Cornell University)|Sep 6, 2017

Explainable Artificial Intelligence (XAI)被引用数 288

ひとこと要約

本論文は、集団間の誤差格差を最小化することと、校正された確率推定を維持することとの緊張関係を分析し、校正が広い等化オッズ（Equalized Odds）制約と互換性がないことを実証し、情報を開示しないポスト処理法を用いて等コスト制約を達成する、校正を保持する緩和を提案する。

ABSTRACT

The machine learning community has become increasingly concerned with the potential for bias and discrimination in predictive models. This has motivated a growing line of work on what it means for a classification procedure to be "fair." In this paper, we investigate the tension between minimizing error disparity across different population groups while maintaining calibrated probability estimates. We show that calibration is compatible only with a single error constraint (i.e. equal false-negatives rates across groups), and show that any algorithm that satisfies this relaxation is no better than randomizing a percentage of predictions for an existing classifier. These unsettling findings, which extend and generalize existing results, are empirically confirmed on several datasets.

研究の動機と目的

• 機微な領域における予測分類の公平性の研究を動機づける。
• 異なるベースレートを持つ複数のグループに対して確率的分類器の校正とEqualized Oddsを形式化する。
• 校正が緩和された誤分類率制約と共存できるかを調査し、実現可能性を特徴づける。
• 同コスト制約を満たす校正を達成するポスト処理法を提供し、その影響を分析する。
• 実データセットで校正された公平性と非校正アプローチを実証的に評価する。

提案手法

• 2つのグループと異なるベースレートを持つ確率的分類器に対して、Equalized Oddsの枠組みを拡張する。
• 校正された確率的出力の一般化された偽陽性率と偽陰性率を定義する。
• 校正制約を偽陽性率と偽陰性率の間の線形関係として特徴づける（FP/ FN空間の直線）。
• 不可能性の結果を示す：校正とEqualized Oddsの併用は、分類器が完全である場合を除き一般に不可能。
• グループごとの重みを組み合わせたコスト関数 g_t を用いて、校正を含む緩和されたEqualized Oddsを導入する。
• 校正を維持しつつ、等コストを満たすように予測の一部をランダム化するポスト処理アルゴリズムを提案する。
• 実現可能性条件を証明し、情報を withholding アプローチの最適性を分析する。
• 複数の異なる等コスト制約に対する不可能性定理を含む理論的結果と、緩和された枠組みの下での唯一の実現可能解を提供する。

(a) Possible cal. classifiers $\mathcal{H}^{*}_{1},\mathcal{H}^{*}_{2}$ (blue/red).

実験結果

リサーチクエスチョン

• RQ1 異なるベースレートを持つグループ間で、校正された確率的分類器は等化オッズを満たし得るのか？
• RQ2 校正を保持するのに適した等化オッズの緩和はどれで、どんな条件下で実現可能か？
• RQ3 同コスト制約を満たす校正を達成するポスト処理法はあるか、そして公正さと個人の効用にどんな影響があるか？
• RQ4 実データセットで、校正された公平性と非校正のEqualized Oddsを比較した場合、経験的に何が起こるか？

主な発見

• 校正とEqualized Oddsは、些細な（完璧な）ケースを除いて一般的には互換性がない。
• 特定の予測を withholding するポスト処理により、校正を維持しつつ単一の等コスト制約を満たす緩和された枠組みを達成できる。
• 緩和された制約の下に唯一の解が存在し、グループ間のコストを等しくするために予測をランダム化することによって達成される。
• 複数の異なる等コスト制約を校正とともに満たすことは一般に不可能であり、完璧な精度を強いることになる。
• 所得予測、健康予測、再犯予測データセットを横断する実証評価はトレードオフを示し、状況によっては校正が全体誤差を増加させ、格差の方向が変わる。

(b) Satisfying cal. and equal F.P. rates.