[论文解读] Addressing Fairness in Classification with a Model-Agnostic Multi-Objective Algorithm

Kirtan Padh, Diego Antognini+3 more|arXiv (Cornell University)|Sep 9, 2020

Ethics and Social Impacts of AI参考文献 26被引用 6

一句话总结

本文提出一种模型无关、可微分的公平性松弛方法，利用双曲正切函数更精确地近似基于统计独立性的公平性概念，并结合多目标优化框架，同时优化多个公平性度量和敏感属性。实验表明，该方法在四个真实世界数据集上实现了优于最先进方法的公平性表现，且准确率损失显著更低。

ABSTRACT

The goal of fairness in classification is to learn a classifier that does not discriminate against groups of individuals based on sensitive attributes, such as race and gender. One approach to designing fair algorithms is to use relaxations of fairness notions as regularization terms or in a constrained optimization problem. We observe that the hyperbolic tangent function can approximate the indicator function. We leverage this property to define a differentiable relaxation that approximates fairness notions provably better than existing relaxations. In addition, we propose a model-agnostic multi-objective architecture that can simultaneously optimize for multiple fairness notions and multiple sensitive attributes and supports all statistical parity-based notions of fairness. We use our relaxation with the multi-objective architecture to learn fair classifiers. Experiments on public datasets show that our method suffers a significantly lower loss of accuracy than current debiasing algorithms relative to the unconstrained model.

研究动机与目标

• 为解决多目标公平性优化中的空白，现有方法仅限于单一公平性概念或属性。
• 通过提出一种基于双曲正切函数的新型可微分松弛，改进对真实公平性值的近似。
• 开发一种模型无关、基于梯度的多目标算法，支持在单次训练过程中同时优化多个公平性度量和敏感属性。
• 通过实证验证，所提方法在公平性与准确率之间的权衡上优于当前最先进去偏算法。
• 展示该方法在同时对多个敏感属性（如种族和性别）以及多种公平性概念（如人口均等与机会均等）去偏方面的有效性。

提出的方法

• 提出使用双曲正切函数对公平性指标进行可微分松弛，该方法可证明比现有松弛方法更精确地逼近真实公平性值。
• 引入一种模型无关的多目标架构，通过基于梯度的优化方法联合优化准确率与多个公平性目标。
• 在损失函数中采用公平性目标的加权和，通过超参数（如 λ）控制公平性与准确率之间的权衡。
• 支持所有基于统计独立性的公平性概念，包括人口均等（DP）与机会均等（EOP），适用于多个敏感属性。
• 采用约束优化框架，将公平性松弛作为可微分项嵌入目标函数中，支持端到端训练。
• 将该方法应用于单公平性与多公平性设置，包括在 Compas 和 Adult 等数据集上同时对种族与性别去偏。

实验结果

研究问题

• RQ1 基于双曲正切函数的可微分松弛是否能比现有松弛方法更准确地近似真实公平性值？
• RQ2 一种模型无关、多目标优化框架是否能有效在单次训练过程中平衡多个公平性度量与敏感属性？
• RQ3 所提方法是否在真实世界数据集上实现了优于最先进去偏算法的公平性-准确率权衡？
• RQ4 当同时对多个敏感属性（如种族与性别）和多个公平性概念进行去偏时，该方法表现如何？
• RQ5 该方法在缓解公平性度量之间的固有权衡方面表现如何，特别是在度量间存在冲突时（如人口均等与机会均等）？

主要发现

• 所提出的基于双曲正切函数的松弛方法，可证明比现有松弛方法更精确地逼近真实公平性值，从而实现更准确的公平性优化。
• 在 Adult 和 Compas 数据集上，S-MAMO-fair 模型在所有基线方法中实现了最低的准确率损失，同时保持或提升了公平性表现。
• 在 Compas 数据集上，M-MAMO-fair 模型实现了公平性损失（HV）0.61 ± 0.01 和人口均等损失（SP）0.21 ± 0.09，显著优于无约束模型与基线方法。
• 在 Adult 数据集上，M-MAMO-fair 模型实现了公平性损失（HV）0.60 ± 0.09 和人口均等损失（SP）0.04 ± 0.02，表明在两项指标上均表现优异。
• 多公平性算法在一半情况下优于单公平性基线，尤其在 Adult 和 CelebA 数据集上表现突出，实现了比现有方法更高的准确率与公平性。
• 该方法有效处理了冲突的公平性约束，如在 Compas 数据集中实现了良好的机会均等表现，但未完全满足人口均等——这与已知的不可能性结果一致。