[论文解读] Contrastive Algorithmic Fairness: Part 1 (Theory)

Tapabrata Chakraborti, Arijit Patra+1 more|arXiv (Cornell University)|May 17, 2019

Ethics and Social Impacts of AI参考文献 15被引用 2

一句话总结

本文提出了一种用于算法决策中对比公平性的因果推断框架，通过建模结果之间的反事实对比来回答'为何是这个而非那个？'的问题。它利用结构因果模型形式化公平性，以评估决策是否基于能力而非受保护属性，为现实世界机器学习决策中的公平性评估提供了理论基础。

ABSTRACT

Was it fair that Harry was hired but not Barry? Was it fair that Pam was fired instead of Sam? How can one ensure fairness when an intelligent algorithm takes these decisions instead of a human? How can one ensure that the decisions were taken based on merit and not on protected attributes like race or sex? These are the questions that must be answered now that many decisions in real life can be made through machine learning. However research in fairness of algorithms has focused on the counterfactual questions what if? or why?, whereas in real life most subjective questions of consequence are contrastive: why this but not that?. We introduce concepts and mathematical tools using causal inference to address contrastive fairness in algorithmic decision-making with illustrative examples.

研究动机与目标

• 解决公平性研究中关注反事实'如果会怎样？'问题而非对比性'为何是这个而非那个？'问题的空白，特别是在算法决策中。
• 通过分析特定结果之间的对比（例如，一个人因相似能力而被录用，而另一个人未被录用），形式化决策中的公平性。
• 基于结构因果模型开发一个理论框架，以评估决策是否受受保护属性影响而非基于能力。
• 为评估现实世界机器学习系统中本质上具有对比性质的决策公平性，提供数学工具。
• 将公平性范式从传统的反事实公平性转向对比公平性，使其与人类在实践中自然评估公平性的方式保持一致。

提出的方法

• 使用结构因果模型（SCMs）来表示决策过程以及受保护属性（如种族、性别）和能力在结果中的作用。
• 通过两个个体之间的反事实对比来定义对比公平性：一个个体获得了结果而另一个未获得，其能力相同但受保护属性不同。
• 应用do-演算和干预推理来计算在对比性问题'为何A被选中而非B？'下，决策公平的概率。
• 引入一种基于受保护属性干预下潜在结果差异的公平性度量，以确保决策不受偏见驱动。
• 将决策过程建模为因果图，其中能力是结果的共同原因，受保护属性是需在公平性评估中控制的混杂因素。
• 使用潜在结果框架将'公平性'形式化为在对比决策中受保护属性无影响。

实验结果

研究问题

• RQ1 当核心问题是'为何是这个而非那个？'而非'如果会怎样？'时，如何评估算法决策中的公平性？
• RQ2 何种数学框架可利用因果推断来建模对比公平性，以区分基于能力的决策与有偏见的决策？
• RQ3 如何在决策中将受保护属性与能力解耦，以确保对比比较中的公平性？
• RQ4 在因果模型中，决策被视为对比公平需满足何种条件？
• RQ5 在现实决策情境中，对比公平性与传统反事实公平性有何不同？

主要发现

• 本文确立了可使用结构因果模型正式定义对比公平性，从而实现对招聘或解雇等决策中公平性的精确评估。
• 研究证明，对比决策中的公平性取决于在能力保持不变的情况下，受保护属性是否影响结果。
• 该框架表明，若仅改变受保护属性就会导致结果反转，即使能力完全相同，则该决策为对比不公平。
• 该方法为审计算法提供了理论基础，不仅关注平均公平性，还关注特定高影响力对比案例中的公平性。
• 该方法揭示了传统公平性度量可能遗漏关键的偏见模式，这些模式仅在对比比较中显现。
• 本文贡献了一套与人类在现实决策中对公平性的直觉相一致的公平性评估形式化语言。