[论文解读] Fairness without Demographics through Adversarially Reweighted Learning

Preethi Lahoti, Alex Beutel+6 more|arXiv (Cornell University)|Jun 23, 2020

Ethics and Social Impacts of AI参考文献 52被引用 46

一句话总结

ARL 通过对训练样本进行对抗性重权重化，提升未观测受保护群体之间的最大最小公平性，在最坏情况的 AUC 方面优于 DRO，同时保持或提升整体 AUC。

ABSTRACT

Much of the previous machine learning (ML) fairness literature assumes that protected features such as race and sex are present in the dataset, and relies upon them to mitigate fairness concerns. However, in practice factors like privacy and regulation often preclude the collection of protected features, or their use for training or inference, severely limiting the applicability of traditional fairness research. Therefore we ask: How can we train an ML model to improve fairness when we do not even know the protected group memberships? In this work we address this problem by proposing Adversarially Reweighted Learning (ARL). In particular, we hypothesize that non-protected features and task labels are valuable for identifying fairness issues, and can be used to co-train an adversarial reweighting approach for improving fairness. Our results show that {ARL} improves Rawlsian Max-Min fairness, with notable AUC improvements for worst-case protected groups in multiple datasets, outperforming state-of-the-art alternatives.

研究动机与目标

• 在隐私或监管原因导致无法获取受保护属性时，激发/倡导机器学习中的公平性。
• Formalize Rawlsian Max-Min fairness for unknown protected groups.
• 正式化未知受保护群体的 Rawlsian 最大最小公平性。
• 引入 ARL，通过对计算上可识别的错误区域进行加权来提升最弱势群体的性能。
• 展示 ARL 在不同数据集上的鲁棒性及行为的经验和分析洞见。

提出的方法

• 建立一个极小极大目标，使未观测受保护群体的最小群体效用最大化。
• 引入一种对抗性重权重化机制，其中预测器 f_phi(X,Y) 识别高损失区域并产生权重 lambda_phi 来加权损失。
• 对对抗性权重进行约束和归一化，以确保稳定性和所有样本的参与。
• 交替训练学习器 h_theta 与对手者 f_phi，在一个两人博弈（极小极大优化）中。
• 对小型数据集使用线性对手或简单网络；并提供开源的 TensorFlow 实现。

实验结果

研究问题

• RQ1 在训练和推理时未知受保护群体成员资格的情况下，是否可以改善公平性？
• RQ2 基于计算上可识别的错误区域的对抗性重权重化是否相对于如 DRO 的现有方法在最坏情况下（AUC_min）表现更优？
• RQ3 ARL 对整体效用（AUC_avg）以及对表征偏差和标签偏差的鲁棒性有何影响？
• RQ4 学习到的样本权重如何与实际的错分和基线率变化相关？

主要发现

• ARL 在 Adult、LSAC 和 COMPAS 数据集上提升最坏情况受保护群体的 AUC，在 AUC_min 上超越 DRO 与基线，并且在多数情况下也超越 AUC_minority。
• 在 Adult 数据集上，ARL 相对基线在 AUC 上提升多达 6.5 个百分点，并在若干数据集上提升 AUC_avg 和 AUC_macro。
• ARL 在总体 AUC (AUC_avg) 上达到优于或可比于基线和 DRO 的水平，指示出有利的效用-公平性权衡。
• 实验中，ARL 的权重聚焦于被错分或高损失区域，并能适应基线率的变化，展示出有意义、可解释的加权模式。
• ARL 对表征偏差和某些标签噪声情景仍然具有鲁棒性，但在强标签噪声时可能退化，与其他公平性方法类似。