[论文解读] Conditional Learning of Fair Representations

Han Zhao, Amanda Coston+2 more|arXiv (Cornell University)|Oct 16, 2019

Ethics and Social Impacts of AI参考文献 36被引用 18

一句话总结

本文提出了一种新颖的算法，通过利用平衡误差率（BER）和表示的条件对齐，同时实现准确率均等化和等化机会，从而在不损害人口均等性的情况下，提升在平衡数据集上的效用-公平性权衡。

ABSTRACT

We propose a novel algorithm for learning fair representations that can simultaneously mitigate two notions of disparity among different demographic subgroups in the classification setting. Two key components underpinning the design of our algorithm are balanced error rate and conditional alignment of representations. We show how these two components contribute to ensuring accuracy parity and equalized false-positive and false-negative rates across groups without impacting demographic parity. Furthermore, we also demonstrate both in theory and on two real-world experiments that the proposed algorithm leads to a better utility-fairness trade-off on balanced datasets compared with existing algorithms on learning fair representations for classification.

研究动机与目标

• 为公平表示学习中准确率均等化与等化机会是否能够共存这一开放问题提供解答。
• 设计一种方法，在不牺牲效用或人口均等性的情况下，确保不同人口子群体的公平性。
• 从理论和实证上验证，平衡误差率（BER）与条件对齐共同实现同步的公平性保障。
• 在真实世界的平衡数据集上，与现有方法相比，展示出更优的效用-公平性权衡。

提出的方法

• 该算法将公平表示学习建模为一个联合优化目标变量和敏感属性上BER的极小极大问题。
• 通过在给定目标变量的条件下对齐表示的条件分布，实现不同人口子群体间表示的条件对齐。
• 该方法将极小极大问题转化为代价敏感学习，从而可通过标准机器学习流水线实现高效优化。
• 使用平衡误差率（BER）作为主要损失函数，以确保各群体间误差率相等，并控制联合误差。
• 通过不直接约束敏感属性的边缘分布，保持人口均等性。
• 该算法分阶段训练，每个阶段通过求解线性极小极大鞍点问题，迭代提升公平性与效用。

实验结果

研究问题

• RQ1 在不损害人口均等性的情况下，是否可以在表示学习中同时实现准确率均等化与等化机会？
• RQ2 平衡误差率（BER）在确保公平性并控制群体间联合误差方面，其理论作用是什么？
• RQ3 表示的条件对齐如何促进实现等化机会与准确率均等化？
• RQ4 与现有公平表示学习算法相比，该方法在平衡数据集上是否实现了更优的效用-公平性权衡？
• RQ5 在公平表示学习的背景下，BER、等化机会与人口均等性之间的关系是什么？

主要发现

• 所提出的算法通过结合平衡误差率（BER）与表示的条件对齐，同时实现了准确率均等化与等化机会。
• 证明了当满足等化机会时，BER可作为不同人口子群体间联合误差的上界。
• 该方法在不降低性能的情况下保持了人口均等性，即在实现等化机会时，人口均等性‘自动’得以维持。
• 在平衡数据集上，该算法相较于现有公平表示学习方法，展现出更优的效用-公平性权衡。
• 在非平衡数据集上，该算法是唯一实现准确率均等化的方案，尽管整体效用有所下降。
• 理论分析证实，BER在确保公平性与控制误差方面具有基础性作用，从而证明其在损失函数中优于边缘误差。