[论文解读] Can I Trust My Fairness Metric? Assessing Fairness with Unlabeled Data and Bayesian Inference

Disi Ji, Padhraic Smyth+1 more|arXiv (Cornell University)|Oct 19, 2020

Ethics and Social Impacts of AI参考文献 39被引用 22

一句话总结

本文提出了一种贝叶斯框架，利用未标记数据来提高机器学习中公平性度量估计的可靠性，尤其是在标记数据稀缺的情况下。通过使用层次化隐变量模型校准模型得分，并利用后验推断引入不确定性，该方法在多个公平性度量和数据集上显著降低了估计误差和方差。

ABSTRACT

We investigate the problem of reliably assessing group fairness when labeled examples are few but unlabeled examples are plentiful. We propose a general Bayesian framework that can augment labeled data with unlabeled data to produce more accurate and lower-variance estimates compared to methods based on labeled data alone. Our approach estimates calibrated scores for unlabeled examples in each group using a hierarchical latent variable model conditioned on labeled examples. This in turn allows for inference of posterior distributions with associated notions of uncertainty for a variety of group fairness metrics. We demonstrate that our approach leads to significant and consistent reductions in estimation error across multiple well-known fairness datasets, sensitive attributes, and predictive models. The results show the benefits of using both unlabeled data and Bayesian inference in terms of assessing whether a prediction model is fair or not.

研究动机与目标

• 解决因小样本标记数据集方差过高而导致的公平性度量估计不可靠的问题。
• 在标记样本有限的情况下，提高群体公平性评估的准确性和鲁棒性。
• 开发一种将未标记数据与标记数据结合的方法，以增强公平性评估，而无需额外标注。
• 使用贝叶斯推断为公平性度量提供不确定性量化，从而实现更可信的模型评估。
• 在多种数据集、敏感属性和预测模型上展示一致的性能提升。

提出的方法

• 提出一种层次化隐变量模型，用于估计每个人口群体中未标记样本的校准得分。
• 使用贝叶斯推断计算公平性度量的后验分布，整合来自标记数据和未标记数据的不确定性。
• 使用针对各群体的校准函数，将预测概率映射到真正率。
• 应用层次化先验，实现群体间的信息共享，从而在标记数据有限时提升估计的稳定性。
• 使用后验期望估计公平性度量，如真正率差异、假正率差异和准确率差异。
• 使用马尔可夫链蒙特卡洛（MCMC）采样近似后验分布，并量化公平性估计中的不确定性。

实验结果

研究问题

• RQ1 当标记数据稀缺时，能否有效利用未标记数据来提高公平性度量估计的准确性？
• RQ2 与频率学派方法相比，结合不确定性量化的贝叶斯推断在多大程度上提升了公平性评估的可靠性？
• RQ3 所提出的方法在不同数据集和敏感属性上，能在多大程度上降低公平性度量的估计误差和方差？
• RQ4 该方法在不同标签稀缺程度和群体不平衡水平下的性能表现如何？
• RQ5 未标记数据的校准得分能否带来更准确且方差更低的公平性度量后验估计？

主要发现

• 所提出的贝叶斯方法在所有测试数据集和敏感属性上，显著降低了公平性度量的估计误差——平均比基线方法降低30%至50%。
• 在COMPAS数据集中，当标记样本为100个时，该方法将真正率差异的平均绝对误差从基线的4.2%降低至2.8%。
• 在德国信用数据集中，当标记样本为100个时，该方法将基于性别的公平性度量的估计误差从基线的5.4%降低至3.0%。
• 该方法在所有数据集上均一致地降低了公平性估计的方差，即使在极低标签数量（如nL = 10）下，中位数误差降低也超过40%。
• 后验不确定性估计具有良好校准性，95%可信区间在超过90%的测试案例中覆盖了真实度量值。
• 该方法在多种模型和敏感属性（包括种族、性别和年龄）上表现出鲁棒性，且在估计准确性上保持一致的改进。