[论文解读] Learning Individually Fair Classifier with Path-Specific Causal-Effect Constraint

Yoichi Chikahara, Shinsaku Sakaue+2 more|arXiv (Cornell University)|Feb 17, 2020

Adversarial Robustness in Machine Learning参考文献 45被引用 4

一句话总结

本文提出了一种新颖的框架，通过最小化个体不公平概率（PIU）来学习个体公平的分类器，利用可从数据估计的PIU上界，实现在无需严格函数假设的前提下实现个体层面的公平性。该方法在仅造成轻微准确率下降的情况下实现了较强的公平性，优于现有方法在合成数据和潜在混杂因子场景下的表现。

ABSTRACT

Machine learning is used to make decisions for individuals in various fields, which require us to achieve good prediction accuracy while ensuring fairness with respect to sensitive features (e.g., race and gender). This problem, however, remains difficult in complex real-world scenarios. To quantify unfairness under such situations, existing methods utilize {\it path-specific causal effects}. However, none of them can ensure fairness for each individual without making impractical functional assumptions on the data. In this paper, we propose a far more practical framework for learning an individually fair classifier. To avoid restrictive functional assumptions, we define the {\it probability of individual unfairness} (PIU) and solve an optimization problem where PIU's upper bound, which can be estimated from data, is controlled to be close to zero. We elucidate why our method can guarantee fairness for each individual. Experimental results show that our method can learn an individually fair classifier at a slight cost of accuracy.

研究动机与目标

• 解决在机器学习中实现个体公平性时，对数据施加不切实际的函数假设的挑战。
• 开发一种实用框架，通过控制个体不公平概率（PIU）来保证每个个体的公平性。
• 从未观测数据中估计并最小化PIU的上界，从而在无需直接访问反事实数据的情况下训练公平分类器。
• 将框架扩展至处理潜在混杂因子，提升在存在未观测变量的真实场景中的公平性。
• 在公平性与预测准确率之间取得平衡，证明公平性可仅以轻微准确率损失为代价实现。

提出的方法

• 将个体不公平概率（PIU）定义为路径特定因果效应（不公平效应）非零的概率。
• 基于边缘潜在结果概率，推导出可从未观测数据中估计的PIU上界。
• 制定一个带惩罚项的优化问题，在训练过程中最小化PIU的上界，使用超参数λ来平衡公平性与准确率。
• 使用两层神经网络作为分类器，惩罚项基于PIU的上界，以抑制不公平决策。
• 通过在上界中引入更可靠的边缘潜在结果概率估计器，将框架扩展以处理潜在混杂因子。
• 在具有和不具有潜在混杂因子的合成数据集上应用该方法，与PSCF、FIO和无约束模型等基线方法比较公平性与准确率。

实验结果

研究问题

• RQ1 我们能否在不对数据施加严格函数假设的前提下，实现在机器学习中的个体公平性？
• RQ2 我们如何从未观测数据中估计并控制个体不公平概率（PIU）？
• RQ3 最小化PIU的上界是否能在实践中真正实现个体公平性？
• RQ4 在存在潜在混杂因子的情况下，该方法能否在确保公平性的同时保持高预测准确率？
• RQ5 与现有方法如PSCF和FIO相比，该方法在公平性与准确率方面的表现如何？

主要发现

• 在合成数据上，该方法的PIU为5.04 × 10⁻²，显著低于基线方法，且测试准确率仅比无约束模型下降1.3%。
• 在拥有真实PIU的已知条件（oracle）下，该方法的PIU为2.63 × 10⁻²，证明了上界估计的有效性。
• 在存在潜在混杂因子的情况下，扩展框架（Proposed ex）的不公平效应统计量低于Proposed和FIO，表明公平性得到提升。
• Proposed ex的测试准确率为95.7% ± 0.5，优于PSCF（93.8% ± 0.9）和Remove（94.0% ± 0.6），展现出更优的准确率-公平性权衡。
• 该方法成功将不公平效应降低至接近零水平，且无需函数假设，而PSCF则依赖于强假设。
• 结果证实，最小化PIU的上界能有效控制个体不公平性，验证了该方法的理论基础。