[论文解读] Causal Discrimination Discovery Through Propensity Score Analysis.

Bilal Mazhar Qureshi, Faisal Kamiran+2 more|arXiv (Cornell University)|Aug 12, 2016

Ethics and Social Impacts of AI参考文献 3被引用 11

一句话总结

本文提出一种基于倾向得分加权的因果歧视发现方法，通过平衡受保护群体与非受保护群体之间的混杂变量，实现通过基于邻域的度量和可解释的回归树对个体层面的因果歧视或优待进行无偏检测。该方法在两个真实世界数据集上优于观察性分析，可产生具有法律可采信性的结果。

ABSTRACT

Social discrimination is considered illegal and unethical in the modern world. Such discrimination is often implicit in observed decisions' datasets, and anti-discrimination organizations seek to discover cases of discrimination and to understand the reasons behind them. Previous work in this direction adopted simple observational data analysis; however, this can produce biased results due to the effect of confounding variables. In this paper, we propose a causal discrimination discovery and understanding approach based on propensity score analysis. The propensity score is an effective statistical tool for filtering out the effect of confounding variables. We employ propensity score weighting to balance the distribution of individuals from protected and unprotected groups w.r.t. the confounding variables. For each individual in the dataset, we quantify its causal discrimination or favoritism with a neighborhood-based measure calculated on the balanced distributions. Subsequently, the causal discrimination/favoritism patterns are understood by learning a regression tree. Our approach avoids common pitfalls in observational data analysis and make its results legally admissible. We demonstrate the results of our approach on two discrimination datasets.

研究动机与目标

• 解决观察性数据分析在检测社会歧视时的局限性，因为未测量的混杂因素可能导致偏差。
• 开发一种因果推断框架，通过平衡混杂变量，隔离受保护属性对决策的影响。
• 基于平衡的数据分布，使用基于邻域的度量方法量化个体层面的因果歧视或优待。
• 通过可解释的回归树解释歧视模式，以获得可操作的洞察。
• 通过避免传统观察性分析的常见陷阱，确保结果具有法律可采信性。

提出的方法

• 应用倾向得分加权，平衡受保护群体与非受保护群体之间混杂变量的分布。
• 基于观测协变量，使用逻辑回归或机器学习模型估计倾向得分。
• 使用逆概率加权，生成一个平衡的数据集，其中群体差异仅归因于受保护属性。
• 在加权且平衡的数据上，使用基于邻域的度量方法计算个体因果歧视得分。
• 在因果得分上训练回归树，以识别驱动歧视或优待的关键因素和模式。
• 在两个真实世界歧视数据集上验证该方法，以评估其有效性与可解释性。

实验结果

研究问题

• RQ1 倾向得分加权是否能有效减少在检测社会歧视时由混杂变量引起的偏差？
• RQ2 如何以统计上稳健且具有法律可采信性的方式量化个体层面的因果歧视？
• RQ3 在正确控制混杂变量后，会浮现哪些歧视模式？
• RQ4 可解释模型（如回归树）在多大程度上能解释检测到的歧视的根本原因？
• RQ5 与标准观察性分析相比，所提出的方法是否能更有效地识别出真正的歧视案例？

主要发现

• 所提出的方法通过平衡受保护群体与非受保护群体之间的协变量分布，成功减少了混杂变量带来的偏差。
• 在平衡数据上计算的因果歧视得分，相较于标准观察性方法，提供了更准确且具有法律可采信性的评估。
• 回归树模型有效识别出导致歧视或优待的关键因素，显著提升了可解释性。
• 与传统观察性分析相比，该方法在两个真实世界数据集上均表现出更优的因果歧视模式检测能力。
• 由于其因果基础和透明性，结果具有鲁棒性，适用于法律和政策场景。