[论文解读] On conditional parity as a notion of non-discrimination in machine learning

Ya’acov Ritov, Yuekai Sun+1 more|arXiv (Cornell University)|Jun 26, 2017

Adversarial Robustness in Machine Learning参考文献 15被引用 20

一句话总结

本文提出条件平等（CP）作为机器学习中非歧视性的一体化框架，涵盖现有的各类概念，如人口统计平等和反事实公平性。它提出一种基于核函数的统计检验方法用于CP，并通过检测歧视性保险定价的应用展示了其有效性，表明CP在后处理下保持不变，且可通过希尔伯特-施密特独立性准则实现经验检验。

ABSTRACT

We identify conditional parity as a general notion of non-discrimination in machine learning. In fact, several recently proposed notions of non-discrimination, including a few counterfactual notions, are instances of conditional parity. We show that conditional parity is amenable to statistical analysis by studying randomization as a general mechanism for achieving conditional parity and a kernel-based test of conditional parity.

研究动机与目标

• 将机器学习中多样化的非歧视性概念统一于单一形式化框架之下。
• 确立条件平等（CP）作为通用且可进行统计分析的公平性准则。
• 开发一种基于核函数的统计检验方法，用于检测条件平等的违反情况。
• 通过保险定价差异的实际分析，展示CP在实践中的实用性。
• 证明CP在模型输出后处理变换下保持不变，从而支持在机器学习流水线中实现稳健的公平性保障。

提出的方法

• 提出条件平等（CP）作为正式准则：在给定一组条件变量的情况下，结果分布必须对受保护属性保持不变。
• 将ε-条件平等定义为使用分布度量的松弛形式，以支持近似公平性检验。
• 基于希尔伯特-施密特独立性准则（HSIC）开发一种基于核函数的CP检验方法，用于评估在给定协变量条件下，受保护属性与结果之间的条件独立性。
• 利用中心化Gram矩阵和特征、受保护属性及协变量的核矩阵，推导出基于HSIC的检验统计量的闭式表达式。
• 将该检验方法应用于真实世界的保险费率数据，将结果建模为邻近地区人口统计特征和车辆属性的函数。
• 在核岭回归框架中引入正则化（λ），以稳定HSIC检验中条件期望的估计。

实验结果

研究问题

• RQ1 条件平等能否作为统一的形式化框架，涵盖现有的公平性概念，如人口统计平等、等效奇偶性与反事实公平性？
• RQ2 条件平等是否适用于统计检验，特别是基于核方法的检验？
• RQ3 基于核函数的检验方法如何在真实数据中检测条件平等的违反情况，例如歧视性保险定价？
• RQ4 所提出的检验方法在模型输出经过后处理变换后是否仍保持有效性和鲁棒性？
• RQ5 该检验方法在控制风险因素的前提下，能在多大程度上检测出少数族裔聚居区之间保险费率的差异？

主要发现

• 条件平等涵盖了多种现有公平性定义，包括人口统计平等、等效奇偶性、等效机会以及反事实公平性，作为其特例。
• 基于核函数的条件平等检验在后处理下保持不变，确保在模型输出变换时公平性得以维持。
• 通过核矩阵和中心化Gram矩阵，条件平等的检验统计量以闭式表达推导得出，支持高效计算。
• 对保险数据的实证应用揭示，即使在控制风险因素后，少数族裔聚居区的驾驶员仍面临显著的保费差异。
• 基于HSIC的检验成功检测出受保护属性（如社区种族）与结果（如保费）之间的条件依赖关系，表明可能存在非歧视性违规。
• 理论分析证实，在正则条件下，检验统计量收敛至一个明确定义的形式，支持其在有限样本设置中的应用。