[論文レビュー] Interventions over Predictions: Reframing the Ethical Debate for Actuarial Risk Assessment

Chelsea Barabas, Karthik Dinakar+3 more|arXiv (Cornell University)|Dec 21, 2017

Criminal Justice and Corrections Analysis参考文献 30被引用数 42

ひとこと要約

この論文は、予測から介入へと保険数理的リスク評価を再定義することで、予測モデリングに代わって因果推論を提唱する。機械学習を用いて犯罪の社会的・構造的・心理的要因を同定し、偏見のあるリスクスコアリングではなく、的確なリスク低減を可能にする。これにより、歴史的データに根ざした構造的不平等を是正する。

ABSTRACT

Actuarial risk assessments might be unduly perceived as a neutral way to counteract implicit bias and increase the fairness of decisions made at almost every juncture of the criminal justice system, from pretrial release to sentencing, parole and probation. In recent times these assessments have come under increased scrutiny, as critics claim that the statistical techniques underlying them might reproduce existing patterns of discrimination and historical biases that are reflected in the data. Much of this debate is centered around competing notions of fairness and predictive accuracy, resting on the contested use of variables that act as "proxies" for characteristics legally protected against discrimination, such as race and gender. We argue that a core ethical debate surrounding the use of regression in risk assessments is not simply one of bias or accuracy. Rather, it's one of purpose. If machine learning is operationalized merely in the service of predicting individual future crime, then it becomes difficult to break cycles of criminalization that are driven by the iatrogenic effects of the criminal justice system itself. We posit that machine learning should not be used for prediction, but rather to surface covariates that are fed into a causal model for understanding the social, structural and psychological drivers of crime. We propose an alternative application of machine learning and causal inference away from predicting risk scores to risk mitigation.

研究の動機と目的

• 犯罪司法制度における機械学習を用いた個人の犯罪リスク予測という支配的パラダイムに挑戦すること。
• 現在のリスク評価が、予測を主たる目的として扱うあまり、歴史的バイアスを強化しているという主張。
• 予測の正確性から、犯罪の原因となる構造的要因を同定する因果推論への焦点のシフトを提言すること。
• リスクスコアを割り当てるのではなく、効果的で根拠に基づいた介入を支援するデータドリブンツールの活用を提唱すること。
• 特許権を有する、透明性の欠如したリスクツールに見られる倫理的欠陥を是正するため、透明性、自己反顧、および介入指向の設計を強調すること。

提案手法

• 因果推論を用いて、再犯を低減する介入を同定する診断的ツールとしてリスク評価を再定義すること。
• 機械学習を結果の予測に用いるのでなく、犯罪の原因要因を解明するための共変量を明らかにするために用いること。
• ランダム化比較試験（RCTs）が実行不可能な状況においても、観察的研究および準実験的手法を用いて、介入と再犯との間の因果関係を推定すること。
• 臨床医学からの倫理的枠組み（例：IRB監視、段階的評価）を犯罪司法研究に統合すること。
• 研究者バイアスの是正を図るため、自己反顧と定性的手法（例：民族学的調査）を強調すること。
• 予測リスクスコアの代わりに、社会的・心理的・構造的要因の因果モデルから導き出された、介入に備えたインサイトを提示すること。

実験結果

リサーチクエスチョン

• RQ1 機械学習を再犯予測から、犯罪の因果的要因の同定へと再利用することは、どのように可能か？
• RQ2 犯罪司法においてリスク評価を単に予測ツールとして扱う場合に、どのような倫理的・構造的欠陥が顕在化するか？
• RQ3 観察研究を含む因果推論手法は、犯罪司法介入の評価において、ランダム化比較試験を代替または補完する程度に効果的か？
• RQ4 既存のリスク評価ツールは、人種や性別といったプロキシ変数を通じて、どのように構造的バイアスを再現しているか？
• RQ5 特に定性的研究および臨床倫理からの統合的アプローチは、より公平なデータドリブン司法ツールの設計において、どのような役割を果たせるか？

主な発見

• 現在のリスク評価は、人種が保護対象特性のプロキシとして機能する場合でも、予測を主たる目的として扱うため、歴史的バイアスを再現しがちである。
• 犯罪司法における機械学習の予測用途は、介入を可能にせず、むしろ犯罪化のサイクルを強化するため、医療的悪影響（iatrogenic harm）を引き起こすリスクをはらんでいる。
• 観察研究を含む因果推論手法は、ランダム化実験が実行不可能または倫理的に不適切な状況においても、介入の再犯に与える影響を効果的に同定できる。
• 米国の犯罪司法介入のうち、わずか16％しかランダム化比較試験を用いて評価されていないため、根拠に基づく政策における重要なギャップが浮き彫りになっている。
• 臨床医学からの倫理的枠組み（例：IRB監視、段階的評価）は、犯罪司法におけるデータの責任ある使用を確保するために、応用可能である。
• リスク評価を診断的ツールとして再定義することで、精神的療法や雇用機会へのアクセスといった犯罪の根本的要因に的確にアプローチできるようになり、静的なリスクスコアへの依存を避けることができる。