[论文解读] Bayesian Modeling of Intersectional Fairness: The Variance of Bias

James R. Foulds, Rashidul Islam+2 more|arXiv (Cornell University)|Nov 18, 2018

Gender Politics and Representation被引用 4

一句话总结

本文提出了一种贝叶斯概率框架，以可靠地估计机器学习中的交叉公平性，解决了多个受保护属性之间的数据稀疏性问题。通过采用分层贝叶斯建模和变分推断，该方法为公平性度量提供了稳健的不确定性估计——在COMPAS和人口普查数据集等稀疏场景下，其性能显著优于经验估计方法。

ABSTRACT

Intersectionality is a framework that analyzes how interlocking systems of power and oppression affect individuals along overlapping dimensions including race, gender, sexual orientation, class, and disability. Intersectionality theory therefore implies it is important that fairness in artificial intelligence systems be protected with regard to multi-dimensional protected attributes. However, the measurement of fairness becomes statistically challenging in the multi-dimensional setting due to data sparsity, which increases rapidly in the number of dimensions, and in the values per dimension. We present a Bayesian probabilistic modeling approach for the reliable, data-efficient estimation of fairness with multi-dimensional protected attributes, which we apply to two existing intersectional fairness metrics. Experimental results on census data and the COMPAS criminal justice recidivism dataset demonstrate the utility of our methodology, and show that Bayesian methods are valuable for the modeling and measurement of fairness in an intersectional context.

研究动机与目标

• 解决在种族、性别和国籍等多重交叉受保护属性上测量公平性时面临的数据稀疏性挑战。
• 开发一种统计上可靠、数据高效的方法，以量化不确定性的方式估计交叉人工智能公平性中的公平性度量。
• 克服在小样本交叉群体中传统方法因统计不可靠而失效的局限性，这些群体在经验概率估计中表现不佳。
• 为现有AI系统提供一种实用且可扩展的框架，用于审计交叉歧视，特别是在刑事司法等高风险领域。
• 展示分层贝叶斯模型与模型平均在数据稀缺条件下提升公平性度量可靠性的有效性。

提出的方法

• 提出一种贝叶斯概率框架，将公平性度量视为具有后验分布的随机变量，从而实现不确定性量化。
• 实现四种统计模型——经验贝叶斯（EB）、完整贝叶斯（FB）、逻辑回归（LR）和深度神经网络（DNN），并引入一种新颖的分层贝叶斯逻辑回归（HLR）模型以提升稳定性。
• 使用变分推断近似模型参数的后验分布，实现在大规模稀疏数据集上的可扩展计算。
• 应用贝叶斯模型平均（BMA）将不同模型的预测结果进行组合，提升估计的鲁棒性并降低方差。
• 利用后验预测分布生成具有不确定性的公平性估计，包括差分公平性（DF）和子组公平性（SF）等度量的可信区间。
• 将自助抽样与贝叶斯推断相结合，进一步提升小样本场景下的估计可靠性。

实验结果

研究问题

• RQ1 在交叉人工智能公平性中，当多个受保护属性存在数据稀疏性时，如何可靠地测量公平性？
• RQ2 在交叉群体规模小或代表性不足的情况下，哪种贝叶斯建模方法能提供最稳定且准确的公平性度量估计？
• RQ3 通过贝叶斯推断引入不确定性，与经验概率估计相比，能在多大程度上改善公平性度量？
• RQ4 在COMPAS和UCI Adult人口普查数据集等真实世界数据集上，不同贝叶斯模型（如HLR、DNN、LR）的性能如何比较？
• RQ5 贝叶斯模型平均是否能增强稀疏数据场景下交叉公平性估计的鲁棒性与可靠性？

主要发现

• 分层贝叶斯逻辑回归（HLR-FB）模型在稀疏数据上估计公平性度量时始终优于其他模型，其与全数据集真实值的L1偏差最低。
• 在COMPAS数据集1%的子样本上，HLR-FB模型在γ-SF上的L1偏差为0.393，在ε-DF上的L1偏差为0.015，表明其具有高精度和低不确定性。
• 所有贝叶斯模型，尤其是FB变体，其L1偏差显著低于经验概率（PE）估计，证明在稀疏场景下具有更高的可靠性。
• HLR-FB模型预测COMPAS系统在ε-DF上放大了约0.5的偏见，95%可信区间为0.35至0.65，表明存在强有力的偏见放大证据。
• 后验预测分布将高概率集中在超过80%规则法律阈值0.2231的值上，证实了在真实再犯和COMPAS预测中均存在显著的差异影响证据。
• 贝叶斯模型平均提升了稳定性，但未超越HLR-FB模型的性能，表明HLR-FB是交叉公平性估计的强有力独立选择。