[论文解读] Improved Adversarial Learning for Fair Classification

L. Elisa Celis, Vijay Keswani|arXiv (Cornell University)|Jan 29, 2019

Ethics and Social Impacts of AI参考文献 32被引用 27

一句话总结

该论文通过将问题表述为带有改进梯度下降-上升更新的多目标优化，提出了一种改进的对抗性学习框架，用于公平分类。该方法在保持或提升Adult和合成数据集上准确率的同时，实现了最先进的公平性表现（以统计独立性和错误发现率衡量），并提供了收敛性和公平性权衡的理论保证。

ABSTRACT

Motivated by concerns that machine learning algorithms may introduce significant bias in classification models, developing fair classifiers has become an important problem in machine learning research. One important paradigm towards this has been providing algorithms for adversarially learning fair classifiers (Zhang et al., 2018; Madras et al., 2018). We formulate the adversarial learning problem as a multi-objective optimization problem and find the fair model using gradient descent-ascent algorithm with a modified gradient update step, inspired by the approach of Zhang et al., 2018. We provide theoretical insight and guarantees that formalize the heuristic arguments presented previously towards taking such an approach. We test our approach empirically on the Adult dataset and synthetic datasets and compare against state of the art algorithms (Celis et al., 2018; Zhang et al., 2018; Zafar et al., 2017). The results show that our models and algorithms have comparable or better accuracy than other algorithms while performing better in terms of fairness, as measured using statistical rate or false discovery rate.

研究动机与目标

• 解决机器学习分类器中可能导致现实应用中不公平结果的偏差问题。
• 通过引入针对特定公平性度量的对抗模型，改进现有的对抗性学习方法以提升公平性。
• 利用带改进更新的加速梯度下降，开发更高效且理论基础更扎实的优化算法。
• 将对抗框架扩展至支持错误发现率平等，这一较少被探索的公平性度量。
• 对多目标优化设置下的收敛性与公平性代价提供理论分析。

提出的方法

• 将公平分类表述为多目标优化问题，平衡分类损失与公平性对抗损失。
• 引入受[34]启发的改进梯度更新规则，并进行调整以提升收敛性与稳定性。
• 采用带噪声梯度预言机的加速梯度下降，以提高优化效率。
• 使用预测敏感属性的公平性对抗器，其输入为分类器输出与标签，并针对特定公平性度量进行定制。
• 在公平性损失中引入正则化项，以强制实现统计独立性或错误发现率平等。
• 利用Bregman散度与光滑性假设，推导出算法的理论收敛边界。

实验结果

研究问题

• RQ1 如何改进对抗性学习以在分类任务中实现更优的公平性-准确率权衡？
• RQ2 对梯度更新规则进行何种修改可提升对抗性公平学习中的收敛性与性能？
• RQ3 对抗性框架能否扩展以强制实现错误发现率平等，这一更精细的公平性度量？
• RQ4 在模型中强制实现完美公平性时，理论上的公平性代价是什么？
• RQ5 所提出方法在不同公平性度量下的实证性能与当前最先进算法相比如何？

主要发现

• 所提算法在Adult数据集上实现了与最先进方法相当或更优的准确率，同时显著提升了公平性度量。
• 在敏感属性与标签高度相关的情况下，该模型在公平性方面优于[34]和[32]，且无输出失败情况。
• 采用带改进更新的加速梯度下降可实现更快的收敛与更稳定的训练，尤其在梯度噪声较大的情况下。
• 理论分析表明，该算法可收敛至(ε₁, ε₂)-解，并对公平性与分类损失差距提供边界。
• 该框架成功扩展至错误发现率平等，表明对抗性学习可被适配至多样化的公平性度量。
• 实证结果表明，该算法对超参数α的变化具有鲁棒性，表明其具有实际稳定性。