[论文解读] Subjective fairness: Fairness is in the eye of the beholder

Christos Dimitrakakis, Yang Liu+2 more|arXiv (Cornell University)|May 31, 2017

Ethics and Social Impacts of AI被引用 2

一句话总结

本文提出了一种基于贝叶斯推理的主观公平性框架，其中公平性通过在观察数据条件下的分布相似性以及放松的条件独立性来定义。该框架引入了在这些主观标准下实现公平性的算法，并通过小规模实验验证展示了其可行性。

ABSTRACT

We introduce a natural, and widely applicable framework for fairnessthat relies on the available information. We develop algorithms for achievinga few different notions of fairness within a subjective framework, and in particularrecently proposed concepts of fairness that are grounded in concepts ofsimilarity and conditional independence. We argue that a suitable notion ofsimilarity in the Bayesian setting is distributional similarity conditioned on theobservations. For the latter, as independence is difficult to achieve uniformlyin the Bayesian setting, we suggest a relaxation, for which we provide a smallexperimental demonstration.

研究动机与目标

• 通过将公平性建立在观察者所掌握的知识和可用信息之上，以解决客观公平性定义的局限性。
• 开发一种上下文敏感且能适应不同观察数据水平的公平性框架。
• 通过基于观察的条件分布相似性来形式化公平性，作为主观公平性的度量。
• 放松贝叶斯公平性中严格条件独立性的要求，使其在实践中更具可实现性。
• 通过小规模实验演示所提出的公平性框架的实际应用。

提出的方法

• 通过在给定观察特征下结果分布的分布相似性来定义公平性，而非绝对公平性。
• 使用贝叶斯条件化来建模公平性信念如何随观察数据演变。
• 引入条件独立性的放松，以使公平性约束在实践中更具可行性。
• 设计通过基于条件分布相似性来调整预测的算法以强制实现公平性。
• 将该框架应用于小规模实验环境，以评估其可行性和性能。

实验结果

研究问题

• RQ1 当公平性依赖于观察者的知识和可用信息时，应如何有意义地定义公平性？
• RQ2 在贝叶斯框架中评估公平性时，适当的相似性概念是什么？
• RQ3 如何以一种既保持公平性又具备计算可行性的方法来放松条件独立性？
• RQ4 能否通过实证演示实现并验证主观公平性框架？

主要发现

• 基于观察条件下的分布相似性的主观公平性提供了一种灵活且上下文感知的替代客观公平性定义的方法。
• 放松严格的条件独立性使得在贝叶斯模型中实现公平性约束成为可能。
• 该框架通过小规模实验验证展示了其可行性，表明在现实约束下可以实现公平性。
• 所提出的方法允许根据观察者的知识集调整公平性，从而在实际应用中增强适应性。