[论文解读] The Impossibility Theorem of Machine Fairness -- A Causal Perspective

Kailash Karthik Saravanakumar|arXiv (Cornell University)|Jul 12, 2020

Ethics and Social Impacts of AI被引用 6

一句话总结

本文提出一种因果框架，通过引入一个校正变量来解决机器公平性中的不可能定理，该变量使预测与敏感属性解耦，同时保持公平性目标。研究表明，在此机制下，人口均等与机会均等可共存，挑战了公平性与准确性存在权衡的观念。

ABSTRACT

With the increasing pervasive use of machine learning in social and economic settings, there has been an interest in the notion of machine bias in the AI community. Models trained on historic data reflect biases that exist in society and propagated them to the future through their decisions. There are three prominent metrics of machine fairness used in the community, and it has been shown statistically that it is impossible to satisfy them all at the same time. This has led to an ambiguity with regards to the definition of fairness. In this report, a causal perspective to the impossibility theorem of fairness is presented along with a causal goal for machine fairness.

研究动机与目标

• 通过解决三大公平性度量——人口均等、机会均等与预测均等——之间的不相容性，解决机器公平性长期存在的模糊性问题。
• 通过将公平性重新定义为因果干预而非统计约束，挑战公平性必然与模型准确性权衡的主流观点。
• 提出一种因果机制——通过校正变量 C，有选择性地调节真实标签对预测的影响，以纠正历史偏见。
• 证明公平性度量可通过因果视角重新解释，从而在统一框架下实现人口均等与机会均等的共存。
• 为去偏机器学习模型提供理论基础，该基础超越基于数据的校准，引入有意图的、以公平为导向的修正。

提出的方法

• 引入一个校正变量 C，通过结构方程作为门控机制，控制预测是否依赖于真实标签（Y）或仅依赖于受保护属性（A）：当 $C=1$ 时，$ \hat{Y} = g_{\text{classifier}}(Y)$；当 $C=0$ 时，$ \hat{Y} = g_{\text{fairness}}(A)$。
• 使用因果图建模数据生成过程，其中 C 阻断了从 Y 到 $ \hat{Y}$ 的直接因果路径，同时允许 A 影响 C，从而实现受控的偏见校正。
• 将公平性度量重新解释为条件独立性约束：当 $C=0$ 时，$ \hat{Y} \perp\!\!\!\perp A$ 表示人口均等；当 $Y$ 和 $C$ 给定时，$ \hat{Y} \perp\!\!\!\perp A$ 表示机会均等。
• 将 C 取值为 0 或 1 的概率视为可调超参数，类似于 epsilon-greedy 策略，以平衡公平性与数据保真度。
• 将公平性重新框架化为对数据生成过程的结构性干预，而非对模型校准的约束，从而实现在无需完美校准的前提下实现公平性。
• 主张不应强制实施预测均等，因为它与纠正历史偏见的目标相矛盾，尤其是在弱势群体中。

实验结果

研究问题

• RQ1 三个主导的公平性度量——人口均等、机会均等与预测均等——是否能在单一数据生成过程中共存？
• RQ2 从因果视角来看，为何将公平性视为与准确性权衡的传统观点存在问题？
• RQ3 如何修改机器学习模型以在不损害其预测性能的前提下纠正历史偏见？
• RQ4 何种因果机制使得人口均等与机会均等共存，而它们在传统框架下本是互不相容的？
• RQ5 为何在涉及系统性偏见的情境中，应拒绝将预测均等作为公平性目标？

主要发现

• 公平性不可能定理由于不存在单一的数据生成过程能同时满足人口均等、机会均等与预测均等三项公平性度量。
• 引入校正变量 C 后，通过在 C 上进行条件化，可实现人口均等与机会均等的共存，从而在因果框架下解决了其不相容性问题。
• 当真实标签 Y 因果依赖于受保护属性 A 时，无法实现预测均等，这种情况在存在偏见的历史数据中普遍存在。
• 因果框架将公平性重新定义为结构性干预而非统计约束，使公平性得以实现而不牺牲模型准确性。
• 校正机制使从业者可通过 C 取值为 0 或 1 的概率，调节对数据驱动预测的偏离程度，从而在公平性与保真度之间实现权衡。
• 模型表明，当公平性被框架化为因果校正而非对预测的统计约束时，公平性与准确性并非本质上冲突。