[论文解读] Rényi Fair Inference

Sina Baharlouei, Maher Nouiehed+2 more|arXiv (Cornell University)|Jun 28, 2019

Ethics and Social Impacts of AI参考文献 59被引用 14

一句话总结

该论文提出了一种名为Rényi公平推理的新颖内处理框架，通过最小化敏感属性与模型输出之间的Rényi相关性来实现机器学习中的公平性。该方法采用具有收敛性保证的最小-最大优化公式，适用于离散属性，在捕捉非线性依赖关系方面优于基于皮尔逊相关性和HSIC的方法，且在公平性-准确率权衡上表现更优。

ABSTRACT

Machine learning algorithms have been increasingly deployed in critical automated decision-making systems that directly affect human lives. When these algorithms are only trained to minimize the training/test error, they could suffer from systematic discrimination against individuals based on their sensitive attributes such as gender or race. Recently, there has been a surge in machine learning society to develop algorithms for fair machine learning. In particular, many adversarial learning procedures have been proposed to impose fairness. Unfortunately, these algorithms either can only impose fairness up to first-order dependence between the variables, or they lack computational convergence guarantees. In this paper, we use Rényi correlation as a measure of fairness of machine learning models and develop a general training framework to impose fairness. In particular, we propose a min-max formulation which balances the accuracy and fairness when solved to optimality. For the case of discrete sensitive attributes, we suggest an iterative algorithm with theoretical convergence guarantee for solving the proposed min-max problem. Our algorithm and analysis are then specialized to fair classification and the fair clustering problem under disparate impact doctrine. Finally, the performance of the proposed Rényi fair inference framework is evaluated on Adult and Bank datasets.

研究动机与目标

• 解决现有公平性方法依赖线性依赖度量或缺乏收敛性保证的局限性。
• 开发一种通用的内处理框架，促进敏感属性与模型输出之间的统计独立性。
• 在保持强公平性-准确率权衡的同时，确保离散敏感属性的计算收敛性。
• 在基准数据集上，通过公平分类和公平聚类任务评估该方法。

提出的方法

• 将公平性建模为最小化敏感属性与模型预测之间Rényi相关性（最大相关性）的问题。
• 提出一种最小-最大优化问题以平衡准确率与公平性，并为离散敏感属性提供理论收敛性保证。
• 采用基于交替优化的迭代算法求解最小-最大问题，确保一阶最优性。
• 将框架特化于公平分类与公平聚类，使用如平等机会和聚类平衡等公平性度量。
• 采用Rényi相关性作为统计独立性的非参数代理，能够捕捉非线性依赖关系。
• 引入正则化超参数λ以控制模型准确率与公平性之间的权衡。

实验结果

研究问题

• RQ1 Rényi相关性能否作为公平性约束中统计独立性的有效且计算可处理的代理？
• RQ2 所提出的基于迭代优化的最小-最大公式是否能为离散敏感属性提供收敛性保证？
• RQ3 Rényi公平推理在捕捉公平性约束中的非线性依赖关系方面，相较于皮尔逊相关性和HSIC方法表现如何？
• RQ4 增大正则化参数λ在多大程度上能提升公平性而不显著降低模型准确率？
• RQ5 该框架在公平聚类任务中是否能有效扩展，如通过受保护群体在聚类中组成平衡的指标衡量？

主要发现

• Rényi公平推理框架在与最先进方法相当的准确率水平下，实现了比现有方法更低的平等机会（EO）违反率，尤其在Adult数据集上表现更优。
• 对于逻辑回归模型，Rényi正则化在德国信用、Adult和Bank数据集上相比HSIC和皮尔逊相关性正则化，准确率下降更小。
• 与皮尔逊和HSIC不同，Rényi相关性即使在存在多个或非二值敏感属性时，也能有效将公平性违规降低至阈值以下。
• 在公平k均值聚类中，随着λ增大，比例向量w（表示每类中特权群体占比）的标准差减小，在λ ≥ 1时实现近乎均匀的聚类组成。
• 随着λ增大，公平性偏差（w的标准差）迅速减小，而当λ ≤ 0.005时，聚类损失的增加非常小。
• 理论证明，当敏感属性为离散时，该迭代算法具有收敛性保证，且对二值敏感属性可实现最优收敛。