[論文レビュー] In Pursuit of Interpretable, Fair and Accurate Machine Learning for Criminal Recidivism Prediction

Caroline Wang, Bin Han+2 more|arXiv (Cornell University)|May 8, 2020

Crime Patterns and Interventions被引用数 10

ひとこと要約

本論文は、ブラックボックスモデルや既存のツール（COMPAS や Arnold PSA）と同等またはそれを上回る精度を達成するとともに、公平性と透明性を確保する解釈可能な機械学習モデルを提案する。フロリダ州およびケンタッキー州のデータ別に別々に訓練されたこれらのモデルは、地域間での一般化が著しく低いことが判明し、地域特化型のモデル訓練と定期的な更新の必要性を示している。

ABSTRACT

Objectives: We study interpretable recidivism prediction using machine learning (ML) models and analyze performance in terms of prediction ability, sparsity, and fairness. Unlike previous works, this study trains interpretable models that output probabilities rather than binary predictions, and uses quantitative fairness definitions to assess the models. This study also examines whether models can generalize across geographic locations. Methods: We generated black-box and interpretable ML models on two different criminal recidivism datasets from Florida and Kentucky. We compared predictive performance and fairness of these models against two methods that are currently used in the justice system to predict pretrial recidivism: the Arnold PSA and COMPAS. We evaluated predictive performance of all models on predicting six different types of crime over two time spans. Results: Several interpretable ML models can predict recidivism as well as black-box ML models and are more accurate than COMPAS or the Arnold PSA. These models are potentially useful in practice. Similar to the Arnold PSA, some of these interpretable models can be written down as a simple table. Others can be displayed using a set of visualizations. Our geographic analysis indicates that ML models should be trained separately for separate locations and updated over time. We also present a fairness analysis for the interpretable models. Conclusions: Interpretable machine learning models can perform just as well as non-interpretable methods and currently-used risk assessment scales, in terms of both prediction accuracy and fairness. Machine learning models might be more accurate when trained separately for distinct locations and kept up-to-date.

研究の動機と目的

• 解釈可能で、高い予測精度を維持するとともに、透明性と公平性を確保する犯罪再犯予測のための機械学習モデルの開発。
• 解釈可能なモデルが、COMPAS や Arnold PSA のような広く使われているリスク評価ツールと比較して、精度と公平性の面で優れているかどうかの評価。
• フロリダ州やケンタッキー州のような異なる地理的場所における再犯予測モデルの一般化可能性の調査。
• 人種および性別サブグループにおける現代的で定量的な公平性定義を用いて、モデルの行動を評価。
• 司法当局が利用可能なシンプルな表や可視化図でモデルを提示できるかを示すことで、実務的導入を支援。

提案手法

• ブルォード郡（フロリダ州）およびケンタッキー州の2つの異なるデータセットに対して、ブラックボックスモデルと解釈可能な機械学習モデルを訓練。
• リスクスリム（RiskSLIM）アルゴリズムを用いて、二値予測ではなく確率を出力するスパースで解釈可能なモデルを生成。
• 6か月および2年間のタイムフレームにおいて、一般、暴行、薬物、財産、懲役、軽犯罪の6つの犯罪タイプについて、AUC およびキャリブレーション指標を用いてモデルのパフォーマンスを評価。
• 等しい機会、予測の同等性などの定量的公平性定義を適用し、人種および性別サブグループにおけるモデルの挙動を評価。
• 地域間でのパフォーマンスを比較して一般化性をテストしたところ、ある管轄区域で訓練されたモデルを別の地域に適用した場合、顕著なパフォーマンス低下が見られた。
• 因果的推論とデータ分布分析を用いて、モデルが地域を越えて一般化できない理由を説明し、年齢分布の変化や政策の影響を要因として挙げた。

実験結果

リサーチクエスチョン

• RQ1 解釈可能な機械学習モデルは、ブラックボックスモデルや COMPAS や Arnold PSA のような現在のリスク評価ツールと同等の予測性能を達成できるか？
• RQ2 ある管轄区域（例：フロリダ州）で訓練された解釈可能なモデルは、別の管轄区域（例：ケンタッキー州）にもうまく一般化できるのか、それとも地域特化型のトレーニングが不可欠なのか？
• RQ3 現代の公平性定義を用いた場合、解釈可能なモデルは人種および性別サブグループにおいてどのように公平性を達成しているか？
• RQ4 解釈可能なモデルは、司法当局にシンプルな表や可視化図で効果的に提示できるか？
• RQ5 データ分布の時間的および地理的変化が、再犯予測モデルの長期的有効性に与える影響は何か？

主な発見

• いくつかの解釈可能な機械学習モデルが、ブラックボックスモデルと同等、あるいはそれ以上の予測性能を達成し、それぞれのトレーニングデータセットにおいて COMPAS や Arnold PSA を顕著に上回った。
• ある管轄区域（例：フロリダ州ブルォード郡）のデータで訓練されたモデルは、別の管轄区域（例：ケンタッキー州）に適用した場合、顕著にパフォーマンスが低下した。これは、地域間での一般化が著しく低いことを示している。
• データ分布、特に年齢分布の変化が1990年から2010年にかけて顕著に変化しており、これが地域間でのモデル一般化の失敗を説明する要因である可能性が示された。
• 解釈可能なモデルは、1ページのシンプルな表や可視化図として表現可能であり、司法当局での利用に適しており、透明性と正当手続の確保を高める。
• 公平性分析の結果、一部の解釈可能なモデルは重要な公平性基準（例：等しい機会）を満たしていたが、他のモデルでは差別的傾向が見られた。これは、公平性に配慮したモデル設計の必要性を強調している。
• 地域特化型のモデルトレーニングと定期的な再トレーニングの必要性を支持する結果が得られ、州レベルのモデルは全国的モデル（例：Arnold PSA）を上回るパフォーマンスを示した。