[論文レビュー] Fair-by-design explainable models for prediction of recidivism

Eduardo Soares, Plamen Angelov|arXiv (Cornell University)|Sep 18, 2019

Crime Patterns and Interventions参考文献 7被引用数 8

ひとこと要約

本論文は、最小限の教師あり学習で局所的にデータから学習する、公平性を設計段階から考慮したプロトタイプベースの説明可能モデルを提案する。経験的データ分布を抽出し、人間が理解可能な IF-THEN ルールを生成することで、人種的バイアスを低減し、Black被告の誤検出率を COMPAS の 44.8% から 30.2% に低下させるとともに、全体の正答率を 67.7% に向上させた。

ABSTRACT

Recidivism prediction provides decision makers with an assessment of the likelihood that a criminal defendant will reoffend that can be used in pre-trial decision-making. It can also be used for prediction of locations where crimes most occur, profiles that are more likely to commit violent crimes. While such instruments are gaining increasing popularity, their use is controversial as they may present potential discriminatory bias in the risk assessment. In this paper we propose a new fair-by-design approach to predict recidivism. It is prototype-based, learns locally and extracts empirically the data distribution. The results show that the proposed method is able to reduce the bias and provide human interpretable rules to assist specialists in the explanation of the given results.

研究の動機と目的

• COMPAS で観察された人種的格差を含む、再犯予測ツールにおける差別的バイアスに対処すること。
• 予測精度を損なわず、公平性を確保するモデルを開発すること。
• 意思決定者による理解が可能な言語的に透明なルールベース出力を通じて、人間の解釈可能性を実現すること。
• 10% のラベル付きデータでのみ学習する弱教師あり学習を用いることで、大規模なラベル付きデータセットへの依存を最小限に抑えること。
• 局所的なデータ分布と典型性を捉える自己学習型の非パラメトリックフレームワークを提供すること。

提案手法

• 本手法は、多次元コーシー分布に基づく局所的に有効な生成モデルを用いたプロトタイプベースの学習を採用する。
• プロトタイプは各クラスの最初のデータサンプルで初期化され、反復的でない非パラメトリックなアルゴリズムを用いて再帰的に更新される。
• データ密度と典型性は、局所的なデータ分布と影響領域を評価するためのコーシー関数を用いて計算される。
• データポイントが既存のプロトタイプの影響範囲外にある場合、密度の閾値に基づいて新しいプロトタイプが追加される。
• アルゴリズムはボロノイタイル化に類似た分割を形成し、各プロトタイプが可変な形状とサポートを持つデータクラウドを定義する。
• 結果は、プロトタイプの特徴から導出された解釈可能な IF-THEN ルールとして表現され、人間による理解と説明が可能になる。

実験結果

リサーチクエスチョン

• RQ1 既存のツール（例：COMPAS）と比較して、局所的に学習するプロトタイプベースのモデルは、再犯予測における人種的バイアスを低減できるか？
• RQ2 10% のラベル付きデータでのみ学習するモデルは、最先端の手法と比較して、どれほど高い公平性と正答率を達成できるか？
• RQ3 このモデルは、再犯予測のための説明可能で人間が理解可能なルールベースの説明をどれほど効果的に生成できるか？
• RQ4 リスク評価において、プロトタイプ周辺の局所的学習は、グローバル平均化と比較して多様なデータ分布をよりよく捉えられるか？
• RQ5 モデルは、人種的グループにわたって誤検出率と誤検出率を顕著に低減させつつも、高い正答率を維持できるか？

主な発見

• 提案手法は全体の正答率が 67.7% を達成し、COMPAS（65.4%）および他のベンチマークを上回った。
• Black被告の誤検出率は、COMPAS の 44.8% から 30.2% に低下した。
• White被告の誤検出率は、COMPAS の 47.7% から提案手法の 29.6% に低下した。
• Black被告の正答率は 67.9% に達し、COMPAS（63.8%）および他の手法を上回った。
• モデルはプロトタイプに基づく解釈可能な IF-THEN ルールを生成し、透明で説明可能な意思決定を可能にした。
• 弱教師あり学習により、最小限のラベル付きデータで局所的なデータ分布を効果的に捉え、公平性と正答率の両方を向上させた。