[论文解读] Fairness-aware Classification: Criterion, Convexity, and Bounds

Yongkai Wu, Lu Zhang+1 more|arXiv (Cornell University)|Sep 13, 2018

Ethics and Social Impacts of AI参考文献 19被引用 16

一句话总结

本文提出了一种通用且理论基础坚实的公平分类框架，将常见的公平性度量（如风险差异、风险比和均等机会）表述为优化中的凸约束。该框架引入了一种无需约束的公平性准则，适用于训练数据，并推导出代理函数的边界，从而确保真实公平性度量得以保留，因此在实践中既能保证公平性，又能实现计算效率。

ABSTRACT

Fairness-aware classification is receiving increasing attention in the machine learning fields. Recently research proposes to formulate the fairness-aware classification as constrained optimization problems. However, several limitations exist in previous works due to the lack of a theoretical framework for guiding the formulation. In this paper, we propose a general framework for learning fair classifiers which addresses previous limitations. The framework formulates various commonly-used fairness metrics as convex constraints that can be directly incorporated into classic classification models. Within the framework, we propose a constraint-free criterion on the training data which ensures that any classifier learned from the data is fair. We also derive the constraints which ensure that the real fairness metric is satisfied when surrogate functions are used to achieve convexity. Our framework can be used to for formulating fairness-aware classification with fairness guarantee and computational efficiency. The experiments using real-world datasets demonstrate our theoretical results and show the effectiveness of proposed framework and methods.

研究动机与目标

• 为解决缺乏将公平性感知分类统一表述为凸优化问题的理论框架的问题。
• 克服先前工作中存在的局限性，如非凸性、与经典公平性概念缺乏关联，以及代理函数带来的估计误差。
• 提出一个训练数据的条件，确保任何在该数据上训练的分类器都天然公平，无需额外约束。
• 推导代理函数约束与真实公平性度量之间的边界，确保尽管存在近似，公平性仍能被保留。
• 实现高效公平分类，相较于先前方法，在公平性与预测精度的权衡上表现更优。

提出的方法

• 通过在特征分布上的期望值，将公平性度量（风险差异、风险比、均等机会）表述为凸约束。
• 引入一种无需约束的公平性准则：若训练数据满足涉及条件概率和受保护属性的特定条件，则在该数据上训练的所有分类器均天然公平。
• 基于凸优化中使用的代理函数，推导真实公平性度量的理论边界（下界和上界）。
• 使用在零点处为凸且具有正导数的代理函数，以确保边界有效且紧致。
• 通过基于期望的表达式重新表述约束，将该框架应用于多种公平性概念（如风险比、均等机会、均等机会），实现扩展。
• 采用指示函数及其凸代理（如合页函数类）将非凸的公平性约束转化为凸且可处理的形式。

实验结果

研究问题

• RQ1 能否以保留其理论意义的方式，将风险差异和风险比等公平性度量表述为凸约束？
• RQ2 是否存在一种训练数据的条件，可确保在该数据上训练的任何分类器都天然公平，从而无需显式公平性约束？
• RQ3 如何界定代理函数约束与真实公平性度量之间的差距，以确保真实公平性得以保留？
• RQ4 该框架能否扩展至多种公平性概念（如均等机会、均等机会）并提供理论保证？
• RQ5 在实践中，该框架是否实现了优于现有方法的公平性-精度权衡？

主要发现

• 所提出的无需约束的公平性准则确保：只要训练数据满足该条件，任何在该数据上训练的分类器都必然公平，从而在优化中无需引入公平性约束。
• 推导出代理函数约束与真实公平性度量之间的理论边界，确保满足优化中的改进约束即可保证真实公平性度量落在有界区间内。
• 在真实世界数据集上的实验验证了无需约束准则的正确性，并表明该方法在公平性表现上优于先前方法。
• 在相同公平性水平下，所提方法始终比现有方法实现更高的预测精度，表明其在公平性-精度权衡上更具优势。
• 该框架成功扩展至多种公平性概念，包括风险比、均等机会和均等机会，兼具理论与实证验证。
• 使用具有适当边界的凸代理函数，确保了计算效率，同时维持公平性保证，克服了先前工作中非凸公式带来的局限性。