[論文レビュー] Experimental Evaluation of Algorithm-Assisted Human Decision-Making: Application to Pretrial Public Safety Assessment

Kosuke Imai, Zhichao Jiang+3 more|arXiv (Cornell University)|Dec 4, 2020

Ethics and Social Impacts of AI被引用数 9

ひとこと要約

本稿は、司法釈放意思決定におけるアルゴリズム支援人間意思決定を評価するための因果推論フレームワークを構築する。ランダム化比較試験を用いてプレトライアル公共安全評価（PSA）の効果を分析した結果、PSAの推奨事項は裁判官の意思決定に全体的にほとんど影響を及ぼさず、低リスクの女性に対してはやや寛大な傾向を示すが、高リスクの男性に対しては逆に厳しくなる可能性があり、再犯のコストが非常に高い場合を除き、最適意思決定ルールと比較してしばしば不必要に厳しくなることが判明した。

ABSTRACT

Despite an increasing reliance on fully-automated algorithmic decision-making in our day-to-day lives, human beings still make highly consequential decisions. As frequently seen in business, healthcare, and public policy, recommendations produced by algorithms are provided to human decision-makers to guide their decisions. While there exists a fast-growing literature evaluating the bias and fairness of such algorithmic recommendations, an overlooked question is whether they help humans make better decisions. We develop a statistical methodology for experimentally evaluating the causal impacts of algorithmic recommendations on human decisions. We also show how to examine whether algorithmic recommendations improve the fairness of human decisions and derive the optimal decision rules under various settings. We apply the proposed methodology to preliminary data from the first-ever randomized controlled trial that evaluates the pretrial Public Safety Assessment (PSA) in the criminal justice system. A goal of the PSA is to help judges decide which arrested individuals should be released. On the basis of the preliminary data available, we find that providing the PSA to the judge has little overall impact on the judge's decisions and subsequent arrestee behavior. However, our analysis yields some potentially suggestive evidence that the PSA may help avoid unnecessarily harsh decisions for female arrestees regardless of their risk levels while it encourages the judge to make stricter decisions for male arrestees who are deemed to be risky. In terms of fairness, the PSA appears to increase the gender bias against males while having little effect on any existing racial differences in judges' decision. Finally, we find that the PSA's recommendations might be unnecessarily severe unless the cost of a new crime is sufficiently high.

研究の動機と目的

• 人間の意思決定に対するアルゴリズム的推奨の因果的影響を評価するための一般的な統計的手法を開発すること。
• 刑事司法などのハイリスク分野における、アルゴリズム的推奨が意思決定の質と公平性を向上させるかどうかを評価すること。
• 悪影響のコストと不必要な厳罰化のコストが異なる状況下での最適意思決定ルールを特定すること。
• アルゴリズム的推奨が、特に性別や人種による人間の意思決定バイアスとどのように相互作用するかを検討すること。
• 政策的関心のある分野におけるハイブリッド人間-アルゴリズムシステムの実験的評価フレームワークを提供すること。

提案手法

• 因果推論における主な層別化を用いて、実験的設定における順守行動や潜在的干渉を考慮した評価ターゲットを定義する。
• 裁判官にPSAリスクスコアとDMF推奨を割り当てるランダム化比較試験の設計を採用する。
• 異なるコスト加重結果下での裁判官の意思決定とアルゴリズム的推奨を比較する意思決定理論的ユーティリティフレームワークを採用する。
• 潜在的結果に基づく因果効果の同定条件を導出し、検定不能な仮定に対する感度分析を可能にする。
• 新犯罪や出廷不履行などの複数の結果について、裁判官の意思決定とアルゴリズム的推奨の間での期待ユーティリティ差を推定する。
• 無偏性と単調性仮定の違反に対する感度分析を実施し、結果の頑健性を評価する。

実験結果

リサーチクエスチョン

• RQ1 裁判官にPSAスコアを提供することで、前もっての保釈意思決定が顕著に変化するか？
• RQ2 アルゴリズム的推奨は、特に性別や人種の観点から司法意思決定の公平性を向上させるか？
• RQ3 異なるコスト構造下で、DMFシステムのアルゴリズム的推奨は実際の裁判官の意思決定と比較して最適か？
• RQ4 裁判官がアルゴリズム的推奨からどれほど逸脱するか、その影響が意思決定の質にどのように現れるか？
• RQ5 再犯のコストと不必要な収監のコストが最適意思決定ルールにどのように影響を与えるか？

主な発見

• PSAスコアの提供は、裁判官の前もっての保釈意思決定に全体的にほとんど影響を及ぼさないことが示され、司法行動への影響が限定的であると考えられる。
• PSAの使用が、リスクレベルに関係なく女性被疑者の意思決定をより寛大にする可能性があるという示唆的証拠がある一方、高リスク男性被疑者に対しては深刻さを増す可能性がある。
• PSAは、特に男性被疑者に対する厳罰化を助長しており、既存の性別格差を悪化させる可能性があるが、人種的格差は顕著に観察されなかった。
• 大多数のケースにおいて、再犯のコストが不必要な収監のコストよりも著しく高い場合を除き、最適な意思決定は現金担保ではなく署名保証である。
• すべての結果において、裁判官の意思決定がDMF推奨よりも常に高い期待ユーティリティを達成しており、アルゴリズム的推奨が不必要に厳しくなる可能性がある。
• DMF推奨はわずかに情報価値がある。推奨が現金担保であるケースとそうでないケースにおける最適意思決定の割合の差が小さいためである。