[論文レビュー] Mitigating Included- and Omitted-Variable Bias in Estimates of Disparate Impact

Jongbin Jung, Sam Corbett‐Davies+3 more|arXiv (Cornell University)|Sep 15, 2018

Nuclear and radioactivity studies被引用数 16

ひとこと要約

本稿では、差別の的影響分析における誤った変数の省略バイアスおよび含まれる変数バイアスを軽減するためのリスク調整回帰を導入する。この三段階の手法では、まず保護属性を除く全変数を用いて事前リスクを推定し、次にリスクのみで調整し、最後にリスクの誤測定に対する非パラメトリック感度分析を実施する。その結果、従来の回帰分析では差別の的影響が低く見積もられていることが判明した。例えば、武器所持のリスクが類似するにもかかわらず、BlackおよびHispanicの歩行者は白人よりも著しく高い頻度で身体検査を受けている。

ABSTRACT

Managers, employers, policymakers, and others often seek to understand whether decisions are biased against certain groups. One popular analytic strategy is to estimate disparities after adjusting for observed covariates, typically with a regression model. This approach, however, suffers from two key statistical challenges. First, omitted-variable bias can skew results if the model does not adjust for all relevant factors; second, and conversely, included-variable bias -- a lesser-known phenomenon -- can skew results if the set of covariates includes irrelevant factors. Here we introduce a new, three-step statistical method, which we call risk-adjusted regression, to address both concerns in settings where decision makers have clearly measurable objectives. In the first step, we use all available covariates to estimate the value, or inversely, the risk, of taking a certain action, such as approving a loan application or hiring a job candidate. Second, we measure disparities in decisions after adjusting for these risk estimates alone, mitigating the problem of included-variable bias. Finally, in the third step, we assess the sensitivity of results to potential mismeasurement of risk, addressing concerns about omitted-variable bias. To do so, we develop a novel, non-parametric sensitivity analysis that yields tight bounds on the true disparity in terms of the average gap between true and estimated risk -- a single interpretable parameter that facilitates credible estimates. We demonstrate this approach on a detailed dataset of 2.2 million police stops of pedestrians in New York City, and show that traditional statistical tests of discrimination can substantially underestimate the magnitude of disparities.

研究の動機と目的

• グループメンバーシップと相関する測定されていない交絡要因が結果を歪める、差別的影響推定における誤った変数の省略バイアスを是正すること。
• 人種と相関する不適切または代理変数（例：郵便番号、声のトーン）が差別的影響の推定を歪める、含まれる変数バイアスを是正すること。
• 保護属性をリスクモデルに含めないで、推定リスクのみで調整することで真の差別の的影響を分離する手法を開発すること。
• 真の差別の的影響を、真のリスクと推定リスクの平均絶対差（ε）に基づいて境界付ける非パラメトリック感度分析を提供すること。
• 従来の回帰手法が、現実世界の意思決定システムにおける差別的影響の大きさを著しく低く見積もっていることを実証すること。

提案手法

• ステップ1：人種や性別などの保護属性を除く、利用可能なすべての共変量を用いて、予測モデルにより事前リスク（例：武器所持）を推定する。
• ステップ2：推定リスクのみを説明変数として用いることで、不適切な共変量による含まれる変数バイアスを排除し、意思決定（例：身体検査）の差を推定する。
• ステップ3：真のリスクと推定リスクの平均絶対差（ε）という、1つの解釈可能なパラメータに基づいて、真の差別の的影響を境界付ける非パラメトリック感度分析を実施する。
• 感度分析では、グループ単位の合計リスクのグリッドサーチと、精度パラメータ（γ = 0.01 パーセンテージポイント）を用いた最適化ルーチンを実行し、差別的影響のタイトな境界を計算する。
• 不確実性を評価するために、ブートストラップ信頼区間（N=1000）を用い、モデルのキャリブレーションはAUC（81％）とヒットレートの比較により検証された。
• 感度分析はCRANのrar Rパッケージで実装されており、すべてのデータとコードは再現可能であるように公開されている。

実験結果

リサーチクエスチョン

• RQ1 現実世界の意思決定システムにおいて、誤った変数の省略バイアスおよび含まれる変数バイアスが、従来の回帰モデルが差別的影響をどの程度低く見積もっているか。
• RQ2 保護属性をリスクモデルから除外した場合に、リスク調整回帰が差別的影響推定におけるバイアスをどのように低減できるか。
• RQ3 リスク誤測定が推定された差別的影響の大きさに与える影響は何か。また、その影響をどのように定量的に境界付けることができるか。
• RQ4 人種に関する保護属性をリスクモデルに含めないで、武器所持の推定リスクのみで調整した場合、身体検査率の差は人種グループごとにどのように変化するか。
• RQ5 妥当なレベルのリスク誤測定下でも、リスク調整回帰の結果はどの程度頑健であるか。

主な発見

• リスク調整回帰手法により、武器所持のリスクが類似するにもかかわらず、BlackおよびHispanicの歩行者は白人よりも著しく高い頻度で身体検査を受けていることが判明し、顕著な差別的影響が示された。
• すべての事前身体検査共変量を含む従来のキッチンシンク回帰モデルは、含まれる変数バイアスに起因し、真の差別の的影響が低く見積もられている。
• NYPDデータの2番目の半分において、モデルはAUCが81％を達成し、武器所持の予測性能が優れていることが示された。
• モデルが予測したヒットレートは、人種グループや警察署ごとに実証的ヒットレートとよく一致しており、リスクモデルの良好なキャリブレーションが確認された。
• 重度の交絡（ε = 0.7 パーセンテージポイント）下でも、推定された差別的影響は依然として著しく高く、リスク推定で説明できない差の44％が残存していた。
• 感度分析により、さまざまな妥当なリスク誤測定レベルにおいても差別的影響が継続しており、95％信頼区間がきわめてタイトに境界づけられていることが示された。