[论文解读] Fair-by-design explainable models for prediction of recidivism
该论文提出了一种设计上公平的、基于原型的可解释模型，用于再犯预测，通过仅使用少量监督数据进行本地学习。通过提取经验数据分布并生成人类可理解的IF-THEN规则，该方法降低了种族偏见——将黑人被告的假阳性率从COMPAS的44.8%降低至30.2%，同时将整体准确率提升至67.7%。
Recidivism prediction provides decision makers with an assessment of the likelihood that a criminal defendant will reoffend that can be used in pre-trial decision-making. It can also be used for prediction of locations where crimes most occur, profiles that are more likely to commit violent crimes. While such instruments are gaining increasing popularity, their use is controversial as they may present potential discriminatory bias in the risk assessment. In this paper we propose a new fair-by-design approach to predict recidivism. It is prototype-based, learns locally and extracts empirically the data distribution. The results show that the proposed method is able to reduce the bias and provide human interpretable rules to assist specialists in the explanation of the given results.
研究动机与目标
- 解决再犯预测工具中的歧视性偏见，特别是COMPAS中观察到的种族差异。
- 开发一种在不牺牲预测准确率的前提下确保公平性的模型。
- 通过语言透明的规则化输出，实现人类可解释性，以供决策者理解。
- 通过仅使用10%标注数据的弱监督，最大限度减少对大规模标注数据集的依赖。
- 提供一种自我学习的非参数框架，以捕捉局部数据分布和典型性。
提出的方法
- 该方法使用基于多模态柯西分布的、具有本地有效性的生成式原型学习模型。
- 原型通过每类的第一个数据样本初始化，并使用非迭代、非参数算法递归更新。
- 利用柯西函数计算数据密度和典型性，以评估局部数据分布和影响区域。
- 当数据点落在现有原型的影响范围之外时，基于密度阈值添加新原型。
- 该算法形成类似Voronoi镶嵌的分区，每个原型定义一个形状和支撑可变的数据簇。
- 结果以基于原型特征生成的可解释IF-THEN规则形式表达，从而支持人类理解与解释。
实验结果
研究问题
- RQ1与COMPAS等现有工具相比，基于本地学习的原型模型是否能有效降低再犯预测中的种族偏见？
- RQ2仅使用10%标注数据的模型在公平性和准确率方面，能否超越当前最先进方法？
- RQ3该模型在生成人类可理解的规则化解释方面，效率如何？
- RQ4与风险评估中使用全局平均相比，围绕原型的本地学习是否能更好地捕捉多样化数据分布？
- RQ5该模型能否在显著降低各个人种群体的假阳性率和假阴性率的同时，保持高准确率？
主要发现
- 所提模型的整体准确率达到67.7%，优于COMPAS（65.4%）及其他基准模型。
- 黑人被告的假阳性率降低至30.2%，较COMPAS的44.8%和最佳先前方法（NL-SVM）的31.6%显著下降。
- 白人被告的假阴性率从COMPAS的47.7%下降至本模型的29.6%。
- 黑人被告的准确率达到67.9%，超过COMPAS（63.8%）及其他方法。
- 该模型基于原型生成了可解释的IF-THEN规则，实现了透明且可解释的决策过程。
- 该方法通过基于原型的学习有效捕捉了局部数据分布，在仅使用少量标注数据的情况下，提升了公平性与准确率。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。