[论文解读] fairadapt: Causal Reasoning for Fair Data Pre-processing

Drago Plečko, Nicolas Bennett+1 more|arXiv (Cornell University)|Oct 19, 2021

Qualitative Comparative Analysis Research被引用 3

一句话总结

fairadapt 是一个 R 包，实现了基于因果推断的预处理方法，用于公平机器学习，通过反事实推理调整个体数据点，使其表现得如同其敏感属性（例如性别、种族）不同一般。通过在结构因果模型中应用递归分位数匹配，该方法可在不重新训练模型的情况下实现公平的数据适应，支持解析变量和半马尔可夫模型，减少结果中的群体差异。

ABSTRACT

Machine learning algorithms are useful for various predictions tasks, but they can also learn how to discriminate, based on gender, race or other sensitive attributes. This realization gave rise to the field of fair machine learning, which aims to measure and mitigate such algorithmic bias. This manuscript describes the R-package fairadapt, which implements a causal inference pre-processing method. By making use of a causal graphical model and the observed data, the method can be used to address hypothetical questions of the form "What would my salary have been, had I been of a different gender/race?". Such individual level counterfactual reasoning can help eliminate discrimination and help justify fair decisions. We also discuss appropriate relaxations which assume certain causal pathways from the sensitive attribute to the outcome are not discriminatory.

研究动机与目标

• 通过在敏感属性上进行个体层面的反事实推理，解决机器学习中的算法偏见。
• 提供一种基于因果推断的预处理方法，通过调整数据来减轻不公平结果，而无需重新训练模型。
• 实现一种支持解析变量和半马尔可夫模型的方法，从而允许更现实的公平性假设。
• 提供一个实用的、开源的 R 包（CRAN 上的 fairadapt），用于公平数据适应，其理论基础建立在结构因果模型之上。

提出的方法

• 使用结构因果模型（SCM）定义反事实世界，其中个体的敏感属性（例如性别）被假设性地改变。
• 应用递归分位数匹配：对于每个个体，将其观测值映射到因果链中每个变量在目标群体（例如女性）分布中的等价分位数。
• 采用潜在结果符号表示法，计算反事实值 Y(fp)，使得 P(Y ≥ y | E=e, T=t, A=a') = P(Y ≥ y(fp) | E=e(fp), T=t(fp), A=a)。
• 支持解析变量，通过允许在有观测数据支持时存在一定程度的歧视，从而放宽完全群体平等的假设。
• 通过引入有向边表示潜在变量混淆，将方法扩展到半马尔可夫模型，使用扩展的父节点集合（Pa(Vi)）以实现准确的分位数估计。
• 基于 Tian 和 Pearl（2002）的方法实施可识别性检查，当涉及敏感属性或解析变量的后门路径未被阻断时，拒绝干预操作。

实验结果

研究问题

• RQ1 反事实推理能否用于公平调整个体数据点，以消除性别或种族等敏感属性带来的偏见？
• RQ2 如何仅通过预处理实现公平数据适应，而无需重新训练机器学习模型？
• RQ3 解析变量在多大程度上允许更细致的公平性定义，从而允许存在非歧视性的差异？
• RQ4 在存在潜在混淆的因果模型中，反事实干预在何种条件下是可识别的？
• RQ5 当应用于复杂、相互依赖的因果结构时，该方法在真实世界数据中的表现如何？

主要发现

• 当使用解析变量（如考试成绩）时，fairadapt 包成功将性别群体之间预测结果的总差异从 -0.6757 降低至 -0.4101，表明群体差异显著减少。
• 该方法通过计算保持目标群体内相对排名的转换值，实现了个体层面的反事实推理，例如将男性的教育成就匹配到女性分布中的等百分位数。
• 该实现支持马尔可夫模型和半马尔可夫模型，后者允许在考试成绩和最终结果等变量之间存在潜在混淆。
• 该包能够检测并阻止不可识别的干预操作，当涉及敏感属性或解析变量的后门路径未被阻断时，会返回错误。
• 该方法可扩展至变量的拓扑排序，为复杂模型中显式父节点集合指定提供灵活的替代方案。
• fairadapt 是首个在 CRAN 上实现基于因果推断的公平性预处理方法的 R 包，填补了现有公平机器学习工具中的空白。