[论文解读] Preference-Informed Fairness

Michael P. Kim, Aleksandra Korolova+2 more|arXiv (Cornell University)|Apr 3, 2019

Ethics and Social Impacts of AI参考文献 28被引用 5

一句话总结

本文提出了偏好感知个体公平性（PIIF），一种新颖的公平性框架，通过允许与个体偏好一致的结果偏差来放松个体公平性（IF），同时保留对歧视的保护。与仅依赖IF相比，该框架能为个体——尤其是边缘化群体——提供更优的结果，同时相比无嫉妒性（EF）具有更大的灵活性，并为凸目标函数在PIIF约束下的高效优化提供了支持。

ABSTRACT

We study notions of fairness in decision-making systems when individuals have diverse preferences over the possible outcomes of the decisions. Our starting point is the seminal work of Dwork et al. which introduced a notion of individual fairness (IF): given a task-specific similarity metric, every pair of individuals who are similarly qualified according to the metric should receive similar outcomes. We show that when individuals have diverse preferences over outcomes, requiring IF may unintentionally lead to less-preferred outcomes for the very individuals that IF aims to protect. A natural alternative to IF is the classic notion of fair division, envy-freeness (EF): no individual should prefer another individual's outcome over their own. Although EF allows for solutions where all individuals receive a highly-preferred outcome, EF may also be overly-restrictive. For instance, if many individuals agree on the best outcome, then if any individual receives this outcome, they all must receive it, regardless of each individual's underlying qualifications for the outcome. We introduce and study a new notion of preference-informed individual fairness (PIIF) that is a relaxation of both individual fairness and envy-freeness. At a high-level, PIIF requires that outcomes satisfy IF-style constraints, but allows for deviations provided they are in line with individuals' preferences. We show that PIIF can permit outcomes that are more favorable to individuals than any IF solution, while providing considerably more flexibility to the decision-maker than EF. In addition, we show how to efficiently optimize any convex objective over the outcomes subject to PIIF for a rich class of individual preferences. Finally, we demonstrate the broad applicability of the PIIF framework by extending our definitions and algorithms to the multiple-task targeted advertising setting introduced by Dwork and Ilvento.

研究动机与目标

• 解决在个体对结果具有多样化偏好时个体公平性（IF）的局限性，这可能导致受保护群体获得不被偏好的结果。
• 提出一种公平性概念，通过允许与偏好一致的偏差来放松IF，从而在不牺牲反歧视保障的前提下提升个体福利。
• 为凸目标函数在PIIF约束下的高效优化框架提供支持，实现实际部署。
• 将PIIF框架扩展至多任务场景，如定向广告，展示其广泛适用性。
• 探究公平性、个体偏好满足度与决策者灵活性之间的权衡。

提出的方法

• 提出偏好感知个体公平性（PIIF）作为IF的松弛形式，允许在与个体偏好一致时偏离IF的结果分布。
• 通过在相似性度量上施加利普希茨条件来定义PIIF，并引入偏好感知松弛，仅当个体更偏好其分配结果而非任何IF合规的替代方案时才允许偏差。
• 提出偏好感知统计均等性（PISP），即统计均等性的一种变体，允许偏离均等性，只要个体更偏好其当前结果而非符合均等性的替代方案。
• 开发了一种高效优化方法，用于在PIIF约束下最大化任意凸目标函数，利用凸规划与偏好感知约束。
• 通过适应PIIF以处理多任务中的多个结果和跨任务的偏好结构，将框架扩展至多任务场景，如定向广告。
• 采用偏好获取技术和效用建模方法，从行为中估计个体偏好，同时承认估计中可能存在偏差。

实验结果

研究问题

• RQ1 能否以一种有原则的方式放松个体公平性，以更好地适应多样化的个体偏好，同时不损害反歧视保护？
• RQ2 如何重新定义公平性，以在防止对相似个体的不公平对待的同时提升个体福利？
• RQ3 在算法系统中，公平性、偏好满足度与决策者灵活性之间的权衡是什么？
• RQ4 能否在新的PIIF公平性约束下实现对结果分布的高效优化？
• RQ5 如何将PIIF框架扩展至如定向广告等多任务决策场景？

主要发现

• PIIF允许的结果比任何IF合规解都更有利于个体，尤其使具有少数群体偏好的群体受益。
• PIIF为决策者提供的灵活性远超无嫉妒性（EF），后者要求若个体偏好相同结果，则必须给予相同结果。
• 该框架可高效优化任意凸目标函数在PIIF约束下的求解，使其在实际部署中具备计算可行性。
• 偏好感知统计均等性（PISP）丰富了公平解集，使其超越标准统计均等性，允许偏好一致的偏差。
• PIIF框架在一定程度上对有偏的结果空间具有鲁棒性，因为它即使在结果空间倾斜时也能实现少数群体偏好的结果。
• 在定向广告场景中的实证验证表明，PIIF可在保持相似性度量下公平性的前提下实现高个体满意度。