[論文レビュー] Fairness in Risk Assessment Instruments: Post-Processing to Achieve Counterfactual Equalized Odds

Alan Mishler, Edward H. Kennedy+1 more|arXiv (Cornell University)|Sep 7, 2020

Ethics and Social Impacts of AI参考文献 44被引用数 9

ひとこと要約

本稿では、リスク評価機器（RAIs）における反事後的等価オッズ公平性を達成するための事後処理手法を提案する。二重にロバストな推定器を用いて、既存の予測器を調整する。このアプローチは、観察可能な結果ではなく、潜在的結果を標的とすることで公平性を確保し、高利害な意思決定文脈において、観察的公平性基準を上回る高速なレートで最適な公平な予測器に収束する。

ABSTRACT

In domains such as criminal justice, medicine, and social welfare, decision makers increasingly have access to algorithmic Risk Assessment Instruments (RAIs). RAIs estimate the risk of an adverse outcome such as recidivism or child neglect, potentially informing high-stakes decisions such as whether to release a defendant on bail or initiate a child welfare investigation. It is important to ensure that RAIs are fair, so that the benefits and harms of such decisions are equitably distributed. The most widely used algorithmic fairness criteria are formulated with respect to observable outcomes, such as whether a person actually recidivates, but these criteria are misleading when applied to RAIs. Since RAIs are intended to inform interventions that can reduce risk, the prediction itself affects the downstream outcome. Recent work has argued that fairness criteria for RAIs should instead utilize potential outcomes, i.e. the outcomes that would occur in the absence of an appropriate intervention. However, no methods currently exist to satisfy such fairness criteria. In this paper, we target one such criterion, counterfactual equalized odds. We develop a post-processed predictor that is estimated via doubly robust estimators, extending and adapting previous post-processing approaches to the counterfactual setting. We also provide doubly robust estimators of the risk and fairness properties of arbitrary fixed post-processed predictors. Our predictor converges to an optimal fair predictor at fast rates. We illustrate properties of our method and show that it performs well on both simulated and real data.

研究の動機と目的

• 観察された結果に基づく観察的公平性基準の限界を是正すること。これは、介入がリスクに影響を与える場合に誤解を招く可能性がある。
• 介入なしの下での潜在的結果を考慮する、近似的な反事後的等価オッズという公平性基準を提案すること。これは、真のリスク予測の目的を反映する。
• 任意の既存の予測器を、近似的な反事後的等価オッズを満たすものに変換する、事後処理フレームワークを開発すること。
• 事後処理された予測器の収束レートに関する理論的保証を提供すること。これは、ノイズパラメータ推定に依存する。
• シミュレーションおよび実世界のデータ（子供の福祉および犯罪司法データセットを含む）を用いた、実証的性能の評価

提案手法

• 本手法は、治療なしの下での潜在的結果に基づく、近似的な反事後的等価オッズ（cEO）を公平性基準として定義する。
• cEO制約を満たす損失最適な事後処理予測器を計算するための線形計画法を定式化する。
• ノイズパラメータ（例：結果モデルおよび感受性モデル）の推定に二重にロバストな推定器を用い、いずれのモデルが正しく指定されていようと一貫性を保証する。
• 事後処理された予測器は、実行時における感受性特徴および元の予測器のみに依存するため、既存のRAIsへの容易なデプロイメントを可能にする。
• 先行する事後処理手法（例：Hardtら、2016年）を、公平性が潜在的結果に基づく反事後的設定に拡張する。
• 理論的分析により、予測器がノイズ推定器の収束に依存して、高速なレートで最適な公平な予測器に収束することを示す。

Figure 1. Counterfactual true positive rates (cTPRs; solid lines) for a RAI satisfying observational equalized odds (oEO), as a function of the intervention strength $\mathbb{P}(Y^{1}=0\mid Y^{0}=1)$ . Dashed lines indicate opportunity rates $\mathbb{P}(D=1\mid Y^{0}=0)$ prior to the development of

実験結果

リサーチクエスチョン

• RQ1 リスク予測の真の目的を反映するために、観察された結果ではなく潜在的結果に基づいてRAIsの公平性基準を再定義することは意味的であるか？
• RQ2 再トレーニングやインプロセッシングを必要とせず、反事後的等価オッズを強制する事後処理手法を開発することは可能か？
• RQ3 二重にロバストなフレームワークにおけるノイズモデル推定の質に依存して、事後処理された予測器の収束レートはどのように変化するか？
• RQ4 提案手法は、実世界の意思決定システムにおける差別的で不均等な影響を低減する観察的公平性基準を上回るか？
• RQ5 反事後的等価オッズ基準下では、公平性と予測性能の間でどのようなトレードオフが生じるか？

主な発見

• 提案された事後処理予測器は、潜在的結果の二重にロバストな推定に基づいて、近似的な反事後的等価オッズを達成する。
• ノイズパラメータ推定の正確さに依存して、収束速度が速いレートで最適な公平な予測器に収束する。
• シミュレーションでは、誤差のコスト比が中程度のとき、公平性と性能のバランスを効果的に実現する。
• 子供の福祉サービスの実データでは、ベースライン予測器と比較して全体の精度に顕著な損失を被ることなく、より公平な予測を生成した。
• 誤差のコスト比が極端に高くなる場合にのみ、事後処理された分類器は自明な分類器（常に0または常に1）に近づくため、入力への感度に対して頑健であることが示された。
• 本手法は、推論時に感受性特徴および元の予測器へのアクセスがあれば、既存のRAIsへのデプロイメントが可能である。

Figure 2. (Illustration of Theorems 4 - 7 ) . Loss $\text{L}(S_{\widehat{\theta}})$ and excess unfairness values $\operatorname{UF}^{\scriptscriptstyle+}(S_{\widehat{\theta}}),\operatorname{UF}^{\scriptscriptstyle-}(S_{\widehat{\theta}})$ for the derived predictor $S_{\widehat{\theta}}$ for samples