[论文解读] Equalized odds postprocessing under imperfect group information

Pranjal Awasthi, Matthäus Kleindeßner+1 more|arXiv (Cornell University)|Jun 7, 2019

Ethics and Social Impacts of AI参考文献 38被引用 17

一句话总结

本文研究了在受保护属性信息不完整的情况下，等概率奇偶后处理方法的鲁棒性，表明当扰动满足某些自然条件时，公平性改进仍能得以保持。该文形式化证明了在这些条件下，所得分类器的公平性优于原始分类器，且即使存在适度扰动，误差仍保持较低水平。

ABSTRACT

Most approaches aiming to ensure a model's fairness with respect to a protected attribute (such as gender or race) assume to know the true value of the attribute for every data point. In this paper, we ask to what extent fairness interventions can be effective even when only imperfect information about the protected attribute is available. In particular, we study the prominent equalized odds postprocessing method of Hardt et al. (2016) under a perturbation of the attribute. We identify conditions on the perturbation that guarantee that the bias of a classifier is reduced even by running equalized odds with the perturbed attribute. We also study the error of the resulting classifier. We empirically observe that under our identified conditions most often the error does not suffer from a perturbation of the protected attribute. For a special case, we formally prove this observation to be true.

研究动机与目标

• 研究当受保护属性信息不完全已知时，如等概率奇偶后处理等公平性干预方法是否仍有效。
• 识别在何种扰动条件下，仍能保证分类器的公平性优于基线分类器。
• 分析在后处理中使用被扰动的受保护属性时，公平性与准确率之间的权衡。
• 形式化证明在轻微扰动下，误差水平与使用真实属性时相比无明显增加，尤其在平衡设置下。

提出的方法

• 在受保护属性通过独立翻转（概率分别为 γ₀ 和 γ₁）的模型下，分析 Hardt 等人（2016）提出的等概率奇偶后处理方法。
• 推导出在何种扰动（γ₀, γ₁）条件下，所得分类器的公平性偏差严格小于原始分类器。
• 引入一种形式化的公平性偏差度量，并利用该度量比较使用被扰动属性与真实属性训练的分类器的公平性。
• 在真实世界数据集（COMPAS、Adult）上进行实证评估，并与基线方法（包括 DRO 和标准 ERM）进行比较。
• 在序列分类设置中应用该方法，以评估在重复训练下长期的公平性与准确率表现。
• 在平衡情形（Y 和 A 的联合分布均匀）下，形式化证明误差不会因扰动而显著增加。

实验结果

研究问题

• RQ1 在受保护属性扰动满足何种条件时，等概率奇偶后处理方法仍能比原始分类器更显著降低公平性偏差？
• RQ2 使用被扰动属性训练的分类器的误差与使用真实属性训练的分类器相比如何？
• RQ3 等概率奇偶后处理方法对中等程度的属性噪声或误分类是否具有鲁棒性？
• RQ4 当受保护属性仅近似可知时，等概率奇偶后处理方法是否可作为可靠的公平性方法？
• RQ5 在序列学习设置中，使用被扰动属性的等概率奇偶后处理方法与分布鲁棒优化（DRO）相比表现如何？

主要发现

• 在平衡设置下（P(Y=y, A=a) = 1/4 均匀分布），当 γ < 0.5 时，后处理分类器的公平性偏差严格小于原始分类器。
• 实证结果表明，在所识别的条件下，被扰动属性分类器的误差通常不会大于真实属性分类器，且在中等扰动下差异可忽略不计。
• 在平衡情形下，本文形式化证明了使用被扰动属性训练的分类器的误差不会显著高于使用真实属性训练的分类器。
• 即使受保护属性以高概率被翻转（例如 γ₀ = γ₁ = 0.45），等概率奇偶后处理方法仍能保持公平性改进，且在防止差异放大方面优于标准 ERM。
• 当扰动为非对称时（例如 γ₀ = 0.1, γ₁ = 0.8），该方法仍具有效性，表明对类别特定噪声具有鲁棒性。
• 所识别的扰动条件是保证公平性改进的必要条件，即若违反这些条件，则无法保证公平性改进。