[论文解读] Effectiveness of Equalized Odds for Fair Classification under Imperfect Group Information.

Pranjal Awasthi, Matthäus Kleindeßner+1 more|arXiv (Cornell University)|Jun 7, 2019

Ethics and Social Impacts of AI被引用 6

一句话总结

本文研究了在受保护属性信息不完善的情况下，等化奇偶性公平性方法的有效性。结果表明，即使受保护属性标签存在中等程度的扰动，使用噪声数据应用等化奇偶性仍能比原始分类器更有效地降低分类器偏差，同时保持与使用真实属性值相当的错误率。

ABSTRACT

Most approaches for ensuring or improving a model's fairness with respect to a protected attribute (such as race or gender) assume access to the true value of the protected attribute for every data point. In many scenarios, however, perfect knowledge of the protected attribute is unrealistic. In this paper, we ask to what extent fairness interventions can be effective even with imperfect information about the protected attribute. In particular, we study this question in the context of the prominent equalized odds method of Hardt et al. (2016). We claim that as long as the perturbation of the protected attribute is somewhat moderate, one should still run equalized odds if one would run it knowing the true protected attribute: the bias of the classifier that we obtain using the perturbed attribute is smaller than the bias of the original classifier, and its error is not larger than the error of the equalized odds classifier obtained when working with the true protected attribute.

研究动机与目标

• 评估当真实受保护属性未被完全知晓时，如等化奇偶性等公平性干预措施是否仍有效。
• 理解受保护属性标签被扰动或存在噪声时对分类器公平性和准确率的影响。
• 确定在群体成员身份不确定的情况下，等化奇偶性在何种条件下仍能优于基线模型。
• 评估在使用不完善的群体信息训练时，公平分类器的误差和偏差是否显著下降。
• 为在受保护属性可能被误报或估算的真实世界环境中部署等化奇偶性提供实用指导。

提出的方法

• 本研究在受保护属性受到受控扰动的条件下评估等化奇偶性，以模拟现实中群体成员身份的不准确性。
• 比较使用真实受保护属性训练的分类器与使用扰动后属性训练的分类器在偏差和误差方面的表现。
• 该方法假设扰动程度适中，并遵循合理的噪声模型，例如具有有界概率的随机翻转。
• 公平性通过等化奇偶性来衡量，即要求不同群体之间的真正例率和假正例率相等。
• 分析将使用扰动数据训练的分类器与原始分类器以及使用真实标签训练的等化奇偶性分类器进行比较。
• 理论与实证分析表明，尽管输入信息不完善，使用扰动数据训练的等化奇偶性分类器仍能保持较强的公平性表现。

实验结果

研究问题

• RQ1 受保护属性标签的中等程度扰动如何影响等化奇偶性分类器的公平性和准确率？
• RQ2 在使用噪声群体信息时，应用等化奇偶性是否仍能比原始分类器产生更低的偏差？
• RQ3 在扰动属性上训练的公平分类器的错误率与在真实受保护属性上训练的分类器相比如何？
• RQ4 在群体成员身份不确定或观测不完善时，等化奇偶性在何种条件下仍能保持有效性？
• RQ5 当无法获得受保护属性的完全知识时，等化奇偶性是否可在实际中可靠应用？

主要发现

• 即使受保护属性标签存在中等程度的扰动，应用等化奇偶性仍能比原始非公平分类器产生更低的分类器偏差。
• 在扰动属性上训练的等化奇偶性分类器的错误率与在真实受保护属性上训练的分类器相比保持相当。
• 在群体信息不完善的情况下，等化奇偶性带来的公平性改进依然得以保持，表明其对标签噪声具有鲁棒性。
• 只要扰动不过于极端，该方法就能维持较强的公平性表现，支持其在存在不完善数据的真实世界应用。
• 本研究为在受保护属性不完全可知的情况下使用等化奇偶性提供了实证与理论依据。
• 结果表明，不应因数据不完善而放弃公平性干预，因为其仍能带来显著的公平性提升。