[论文解读] Learning Optimal and Fair Decision Trees for Non-Discriminative Decision-Making

Sina Aghaei, Mohammad Javad Azizi+1 more|arXiv (Cornell University)|Mar 25, 2019

Ethics and Social Impacts of AI参考文献 38被引用 12

一句话总结

本文提出了一种混合整数优化框架，用于学习最优且公平的决策树，以在社会敏感决策中同时最小化差异性对待与差异性影响。通过统一分类与回归任务中的公平性定义，该方法在保持更高准确率的同时，相较于最先进启发式方法展现出更低的歧视性，且所得解具有可解释性，适用于存在偏差与不存在偏差的数据集。

ABSTRACT

In recent years, automated data-driven decision-making systems have enjoyed a tremendous success in a variety of fields (e.g., to make product recommendations, or to guide the production of entertainment). More recently, these algorithms are increasingly being used to assist socially sensitive decision-making (e.g., to decide who to admit into a degree program or to prioritize individuals for public housing). Yet, these automated tools may result in discriminative decision-making in the sense that they may treat individuals unfairly or unequally based on membership to a category or a minority, resulting in disparate treatment or disparate impact and violating both moral and ethical standards. This may happen when the training dataset is itself biased (e.g., if individuals belonging to a particular group have historically been discriminated upon). However, it may also happen when the training dataset is unbiased, if the errors made by the system affect individuals belonging to a category or minority differently (e.g., if misclassification rates for Blacks are higher than for Whites). In this paper, we unify the definitions of unfairness across classification and regression. We propose a versatile mixed-integer optimization framework for learning optimal and fair decision trees and variants thereof to prevent disparate treatment and/or disparate impact as appropriate. This translates to a flexible schema for designing fair and interpretable policies suitable for socially sensitive decision-making. We conduct extensive computational studies that show that our framework improves the state-of-the-art in the field (which typically relies on heuristics) to yield non-discriminative decisions at lower cost to overall accuracy.

研究动机与目标

• 解决自动化决策系统中可能因受保护属性导致的不公平性问题，包括差异性对待与差异性影响。
• 统一分类与回归任务中的公平性定义，构建一致的公平性框架。
• 开发一种混合整数优化方法，同时最大化准确率并最小化决策树中的歧视性。
• 确保该方法适用于存在或不存在受保护属性的训练数据集，包括受保护属性缺失但相关性依然存在的场景。
• 生成可解释的、非歧视性的决策策略，适用于高风险、伦理敏感的领域。

提出的方法

• 构建一个混合整数规划问题（MIP），通过将歧视指数（DTDI）作为约束或惩罚项，联合优化预测准确率与公平性。
• 引入一个灵活的目标函数，通过超参数 λ 平衡准确率与公平性，支持权衡分析。
• 使用距离函数 γ(x) = P(y|xₚ̄, xₚ) − P(y|xₚ̄) 衡量不公平性，通过计算受保护群体间条件结果的差异。
• 将 MIP 框架应用于分类与回归任务，针对每类任务设计定制化公式，包括为提升可扩展性而引入的近似距离函数（MIP-DT-A）。
• 采用 k 折交叉验证策略，选择最优 λ*，使歧视性低于 0.01% 的同时最大化准确率。
• 使用 Gurobi 通过 Julia 中的 JuMP 求解 MIP，设置 5–10 小时的时间限制，并报告求解时间与收敛行为。

实验结果

研究问题

• RQ1 能否为决策树中的分类与回归任务构建统一的公平性框架？
• RQ2 所提出的基于 MIP 的方法在公平性与准确率权衡方面，相较于启发式基线方法表现如何？
• RQ3 该方法在存在偏差与无偏差数据集中，能在多大程度上减少差异性对待与差异性影响？
• RQ4 通过树深度衡量的可解释性，如何与优化后决策树的公平性与准确率相互作用？
• RQ5 MIP 框架能否在足够短的时间内生成近似最优解，以实现时间敏感预测场景中的实际部署？

主要发现

• 在 Adult 数据集上，所提出的 MIP-DT 方法相较于 CART 实现了显著更低的歧视性（0.32% DTDIs 对比 0.7% DTDIs），同时保持更高的准确率。
• 在分类数据集上，MIP-DT 在准确率方面优于 fair log 与 DADT 基线方法，同时实现接近零的歧视性。
• 在回归任务中，MIP-DT 的平均绝对误差（MAE）显著低于采用个体或群体公平性惩罚的线性回归方法（LR-ind/grp），平均求解时间分别为 36,007 秒与 0.38/0.33 秒。
• MIP-DT 在三个分类数据集上的平均训练时间为 18,161.64 秒，远高于基线方法，但其更优的公平性与准确率使其具有合理性。
• 通常在数分钟内即可找到近似最优解，表明尽管计算成本较高，但实际可行性仍可接受。
• 使用训练好的 MIP 基决策树进行预测推理速度极快（毫秒级），尽管训练时间较长，但部署仍具可行性。