[論文レビュー] Improving Fairness in Criminal Justice Algorithmic Risk Assessments Using Conformal Prediction Sets

Richard A. Berk, Arun Kumar Kuchibhotla|arXiv (Cornell University)|Aug 26, 2020

Ethics and Social Impacts of AI参考文献 32被引用数 5

ひとこと要約

本論文では、正規確率保証を伴う個別レベルの予測を生成しながら、BlackおよびWhiteの被疑者間の有意義な差異を排除することにより、犯罪司法リスク評価における公平性を向上させるために、適合予測集合を用いることを提案する。この手法は、300,000件の起訴被疑者からなるデータセットを用い、アルゴリズムの出力および共変量の両方で公平性を達成する。その結果、公平性の差がほとんどない交差表が得られた。

ABSTRACT

Risk assessment algorithms have been correctly criticized for potential unfairness, and there is an active cottage industry trying to make repairs. In this paper, we adopt a framework from conformal prediction sets to remove unfairness from risk algorithms themselves and the covariates used for forecasting. From a sample of 300,000 offenders at their arraignments, we construct a confusion table and its derived measures of fairness that are effectively free any meaningful differences between Black and White offenders. We also produce fair forecasts for individual offenders coupled with valid probability guarantees that the forecasted outcome is the true outcome. We see our work as a demonstration of concept for application in a wide variety of criminal justice decisions. The procedures provided can be routinely implemented in jurisdictions with the usual criminal justice datasets used by administrators. The requisite procedures can be found in the scripting software R. However, whether stakeholders will accept our approach as a means to achieve risk assessment fairness is unknown. There also are legal issues that would need to be resolved although we offer a Pareto improvement.

研究の動機と目的

• 犯罪司法リスク評価アルゴリズムにおける継続的な不平等、特にBlackおよびWhite被疑者間の人種的差異を是正すること。
• アルゴリズムの予測だけでなく、予測に用いられる共変量の両方において公平性を保証する手法を開発すること。
• 真の結果が予測結果に含まれる確率的保証を有する個別レベルのリスク予測を生成すること。
• 標準的な犯罪司法データセットとRベースのスクリプトツールを用いた実用的で実装可能なフレームワークを提示すること。
• 根本的な法律的・制度的変更を要せず、地方自治体が採用可能なパレート改善を提供すること。

提案手法

• 事前に指定された確率水準で真の結果を含む予測集合を生成する適合予測フレームワークを採用する。
• 予測アルゴリズムの出力および入力共変量の両方に適合予測を適用し、予測プロセスの各段階で公平性を確保する。
• 300,000件の起訴被疑者からなるデータセットを用いて、得られた予測集合の公平性を訓練および評価する。
• 予測集合から交差表を構築し、公平性指標を測定し、人種グループ間の有意義な差異が存在しないことを確認する。
• 予測集合が統計的妥当性を維持していることを検証する。すなわち、真の結果が名目上の確率水準で予測集合に含まれることを保証する。
• Rスクリプトを用いて全手順を実装し、標準的な犯罪司法データ環境での日常的導入を可能にする。

実験結果

リサーチクエスチョン

• RQ1 適合予測集合を用いることで、BlackおよびWhite被疑者間のリスク評価結果における有意義な公平性の差を解消できるか？
• RQ2 アルゴリズムの出力だけでなく、予測に用いられる共変量の両方において、公平性をどのように向上させられるか？
• RQ3 個別レベルのリスク予測を、確率的保証を有しながらも人種グループ間で公平性を維持できるか？
• RQ4 この手法は、標準的な犯罪司法データセットおよびRのような既存のソフトウェアツールを用いて、どの程度実装可能か？
• RQ5 この公平性向上手法の採用に際して、法的課題およびステークホルダーの受容性にどのような課題が残っているか？

主な発見

• 提案手法により、BlackおよびWhite被疑者間の公平性指標に有意義な差がほとんどない交差表が成功裏に得られた。
• 個別被疑者に対する予測は、有効な確率的保証を伴い、真の結果が名目上の信頼水準で予測集合に含まれることを保証した。
• フレームワークは、アルゴリズムの予測と予測に用いられる共変量の両方で公平性を達成し、複数のレベルで公平性を確保した。
• 標準的な犯罪司法データセットとRベースのスクリプトを用いた手順は、実世界の地方自治体での日常的導入が可能である。
• 統計的妥当性や予測性能を損なわず、公平性を向上させるという点で、本手法はパレート改善を提供する。
• 技術的実現可能性は確認されたが、ステークホルダーの受容性と未解決の法的問題は、採用に向けた主な課題のまま残っている。