[论文解读] PC-Fairness: A Unified Framework for Measuring Causality-based Fairness

Yongkai Wu, Lu Zhang+2 more|arXiv (Cornell University)|Oct 20, 2019

Ethics and Social Impacts of AI被引用 42

一句话总结

本文提出了 PC fairness，这是一个统一的、path-specific counterfactual fairness 框架，并提出了一种线性规划方法，在由响应函数变量驱动的不可识别因果情景下对 PC fairness 进行界定。

ABSTRACT

A recent trend of fair machine learning is to define fairness as causality-based notions which concern the causal connection between protected attributes and decisions. However, one common challenge of all causality-based fairness notions is identifiability, i.e., whether they can be uniquely measured from observational data, which is a critical barrier to applying these notions to real-world situations. In this paper, we develop a framework for measuring different causality-based fairness. We propose a unified definition that covers most of previous causality-based fairness notions, namely the path-specific counterfactual fairness (PC fairness). Based on that, we propose a general method in the form of a constrained optimization problem for bounding the path-specific counterfactual fairness under all unidentifiable situations. Experiments on synthetic and real-world datasets show the correctness and effectiveness of our method.

研究动机与目标

• 提出一个统一的 path-specific counterfactual fairness（PC fairness）的定义，涵盖现有基于因果关系的公平性概念。
• 将所有因果效应表示为 path-specific counterfactual effects，以实现广泛的适用性。
• 通过使用受约束的优化方法，在不可识别的情形下对 PC fairness 进行界定以处理可识别性问题。
• 在假设给定因果图的前提下，开发一个允许隐藏混杂因素和任意数据生成过程的框架。

提出的方法

• 引入 path-specific counterfactual effects 和 PC fairness 的形式化框架。
• 用响应函数变量对因果模型进行参数化，以捕捉所有随机性并遍历可能的模型。
• 将观测分布和 path-specific counterfactual quantities 表述为响应函数分布的线性函数。
• 建立一个线性规划问题，在观测约束下最小化或最大化 PC fairness 的界限。
• 通过在各种不可识别的图结构下求解约束优化问题，提供对 PC fairness 的紧界。

实验结果

研究问题

• RQ1 PC fairness 如何包含并统一现有的基于因果关系的公平性概念？
• RQ2 在不可识别性存在的情况下，我们如何对 path-specific counterfactual fairness 进行界定？
• RQ3 基于响应函数的参数化是否能在不同图结构下为 PC fairness 提供紧凑、可处理的界限？
• RQ4 该框架能否在不偏倚结果的前提下容纳隐藏混杂因素和一般数据生成过程？

主要发现

• PC fairness 可以将大多数先前的基于因果关系的公平性概念表示为特例。
• 受约束的优化方法在不可识别条件下为 path-specific counterfactual fairness 提供紧凑且唯一的界限。
• 响应函数变量形式使得对所有兼容因果模型的显式遍历成为可能，以推导界限。
• 在合成数据和真实世界数据上的实验表明，该方法能正确界定 PC fairness 的界限，并在紧凑性方面优于先前的界限方法。
• 在不假设隐藏混杂因素独立性或数据生成过程线性的情况下，该框架仍然有效。