[论文解读] InfoFair: Information-Theoretic Intersectional Fairness

Jian Kang, Tiankai Xie+3 more|arXiv (Cornell University)|May 24, 2021

Ethics and Social Impacts of AI参考文献 37被引用 4

一句话总结

本文提出 InfoFair，一种新颖的信息论框架，用于交叉公平性（intersectional fairness），通过最小化模型预测与多个敏感属性联合向量之间的互信息，确保所有人口子群体的统计均等性。通过利用互信息的变分表示，该方法在各类学习任务中实现端到端、基于梯度的去偏，且准确率损失极小，在真实世界数据集上展现出显著的公平性提升。

ABSTRACT

Algorithmic fairness is becoming increasingly important in data mining and machine learning. Among others, a foundational notation is group fairness. The vast majority of the existing works on group fairness, with a few exceptions, primarily focus on debiasing with respect to a single sensitive attribute, despite the fact that the co-existence of multiple sensitive attributes (e.g., gender, race, marital status, etc.) in the real-world is commonplace. As such, methods that can ensure a fair learning outcome with respect to all sensitive attributes of concern simultaneously need to be developed. In this paper, we study the problem of information-theoretic intersectional fairness (InfoFair), where statistical parity, a representative group fairness measure, is guaranteed among demographic groups formed by multiple sensitive attributes of interest. We formulate it as a mutual information minimization problem and propose a generic end-to-end algorithmic framework to solve it. The key idea is to leverage a variational representation of mutual information, which considers the variational distribution between learning outcomes and sensitive attributes, as well as the density ratio between the variational and the original distributions. Our proposed framework is generalizable to many different settings, including other statistical notions of fairness, and could handle any type of learning task equipped with a gradient-based optimizer. Empirical evaluations in the fair classification task on three real-world datasets demonstrate that our proposed framework can effectively debias the classification results with minimal impact to the classification accuracy.

研究动机与目标

• 解决现有群体公平性方法仅关注单一敏感属性而非多个属性交集的缺陷。
• 开发一种可泛化的端到端框架，直接优化由多个敏感属性组合形成的所有人口群体的统计均等性。
• 通过直接最小化预测与联合敏感属性向量之间的互信息，克服先前方法在代理约束和性能不稳定方面的局限性。
• 在复杂的真实世界学习任务中实现公平性，同时不牺牲模型准确率。
• 在未来工作中将公平性方法的适用范围从二元或分类属性扩展到连续取值的敏感属性。

提出的方法

• 将所有敏感属性建模为联合向量，以定义细粒度的人口子群体，实现交叉公平性。
• 将公平性目标表述为最小化模型预测与联合敏感属性向量之间的互信息。
• 采用互信息的变分下界，结合变分分布和密度比估计，实现可微分优化。
• 利用深度神经网络与基于梯度的优化方法，可无缝集成到任意可微学习任务中。
• 该框架可经小幅修改推广至其他公平性概念，如平等机会和相等机会。
• 使用神经网络估计器（如 MINE 或 infoNCE）在高维空间中高效估计互信息。

实验结果

研究问题

• RQ1 互信息最小化能否有效在由多个敏感属性构成的所有交叉人口子群体中强制实现统计均等性？
• RQ2 所提出的变分互信息框架在公平性-准确率权衡方面与现有公平性方法相比表现如何？
• RQ3 该框架在不同学习任务和公平性定义下的泛化能力如何？
• RQ4 当模型无法完全捕捉数据分布关系时，该方法是否能优于基于代理约束的方法以减轻偏差？
• RQ5 该框架能否扩展以处理连续取值的敏感属性（如年龄或收入）？

主要发现

• InfoFair 框架在公平分类任务中显著降低了交叉人口子群体的偏差，且对分类准确率的影响极小。
• 在三个真实世界数据集上的实证评估表明，该方法在包括种族、性别和婚姻状况在内的多个敏感属性上均实现了持续的公平性提升。
• 与依赖代理约束的现有方法相比，该方法表现更优，尤其在模型容量有限或数据分布复杂时。
• 即使模型未能完全捕捉真实数据分布，该框架仍保持良好性能，表明对近似误差具有鲁棒性。
• 该方法在二元分类之外也表现出良好泛化能力，显示出在推荐系统等其他学习任务中的潜在适用性。
• 初步结果表明，该框架可扩展至连续取值的敏感属性，但此方向仍为未来工作的开放课题。