[論文レビュー] Inherent Trade-Offs in the Fair Determination of Risk Scores

Jon Kleinberg, Sendhil Mullainathan+1 more|arXiv (Cornell University)|Sep 19, 2016

Bayesian Modeling and Causal Inference被引用数 422

ひとこと要約

本論文は、確率的リスクスコアに対して自然に挙げられる3つの公正性条件を、特別な場合を除いて同時に満たすことができないと証明しており、公正なリスク評価における固有のトレードオフを明らかにしている。

ABSTRACT

Recent discussion in the public sphere about algorithmic classification has involved tension between competing notions of what it means for a probabilistic classification to be fair to different groups. We formalize three fairness conditions that lie at the heart of these debates, and we prove that except in highly constrained special cases, there is no method that can satisfy these three conditions simultaneously. Moreover, even satisfying all three conditions approximately requires that the data lie in an approximate version of one of the constrained special cases identified by our theorem. These results suggest some of the ways in which key notions of fairness are incompatible with each other, and hence provide a framework for thinking about the trade-offs between them.

研究の動機と目的

• 確率的分類に関する広く議論されてきた3つの公正性条件を形式化する。
• これらの条件が一般には同時に満たされ得ないことを示す。
• 3つすべてが同時に成り立つ正確な状況を特徴づける。
• リスクスコアの公正性定義間のトレードオフを論じるための体系を提供する。

提案手法

• 特徴ベクトルとグループ固有の分布を含む二グループモデルを定義する。
• 特徴からビンへの写像を用いてスコアを含むビンによるリスク割り当てを導入する。
• グループ内のキャリブレーションと正/負クラスのバランスを公正性条件として形式化する。
• 3条件が同時に成り立つ場合を示す特徴付け定理を証明する。
• 公正性の近似版へ拡張し、含意を議論する。

実験結果

リサーチクエスチョン

• RQ1 グループ内キャリブレーション、正クラスのバランス、負クラスのバランスは同時に満足させることができるか？
• RQ2 これらの公正性条件が完璧な予測や基底レートの等価と一致するデータ生成シナリオはどれか？
• RQ3 公正性条件の近似版は、実現可能なリスクスコアの構成をどのように制約するか？
• RQ4 これらのトレードオフは、実践における公正なリスクスコアリングシステムの設計にどのような示唆を与えるか？

主な発見

• データが完全な予測または等基底割合を示さない限り、一般には3つの公正性条件は互換性がない。
• 条件を近似的に満たすことは、リスクスコアを2つの制約された特殊ケースのいずれかに似せることを強いる。
• 結果は、リスクスコアを計算する具体的な方法（アルゴリズム的にも人間的にも）に依存しない。
• 連続関数が、近似レベルと特殊ケースへの近接性の関係を支配する。
• 本研究は、一般的な公正性概念間のトレードオフを理解するための理論的枠組みを提供する。