[论文解读] On Adversarial Bias and the Robustness of Fair Machine Learning
本文分析面向公平性约束（具体为等化机会）的数据投毒攻击如何同时降低准确性与公平性，并给出利用鲁棒性-公平性权衡的攻击算法。
Optimizing prediction accuracy can come at the expense of fairness. Towards minimizing discrimination against a group, fair machine learning algorithms strive to equalize the behavior of a model across different groups, by imposing a fairness constraint on models. However, we show that giving the same importance to groups of different sizes and distributions, to counteract the effect of bias in training data, can be in conflict with robustness. We analyze data poisoning attacks against group-based fair machine learning, with the focus on equalized odds. An adversary who can control sampling or labeling for a fraction of training data, can reduce the test accuracy significantly beyond what he can achieve on unconstrained models. Adversarial sampling and adversarial labeling attacks can also worsen the model's fairness gap on test data, even though the model satisfies the fairness constraint on training data. We analyze the robustness of fair machine learning through an empirical evaluation of attacks on multiple algorithms and benchmark datasets.
研究动机与目标
- 在数据投毒下，推动并量化ML中的公平性与鲁棒性之间的张力。
- 分析攻击者如何通过操纵训练数据来同时降低准确性与公平性。
- 开发针对公平模型的攻击策略并在基准数据集上进行经验评估。
提出的方法
- 将培训损失最大化与在等化机会前提下满足公平性约束的双层优化进行建模。
- 引入可处理的近似：用损失代理替代内部优化，并对公平性约束使用拉格朗日惩罚。
- 提出在线梯度对抗投毒算法（算法 1 与 2），通过选择投毒点来最大化损失与公平性差的加权和。
- 用可加代理来近似公平性差，以实现数据点级的投毒决策。
- 在公平逻辑回归模型上使用后处理与简化方法对 COMPAS 与 Adult 数据集进行投毒攻击评估。
- 提供与近似下的最优投毒解之间的理论保证，关联攻击性能与最优投毒解。
实验结果
研究问题
- RQ1在强制执行等化机会公平性时，鲁棒性相较于无约束模型是否会受到限制？
- RQ2对抗性采样与标注训练数据如何影响测试准确性与公平性泛化？
- RQ3攻击者策略能否利用公平性约束来对少数群体造成不成比例的伤害？
- RQ4在对抗性偏见下，公平性水平（δ）对鲁棒性有何影响？
主要发现
- 与无约束模型相比，公平性约束可能显著降低对数据投毒的鲁棒性。
- 在受到攻击时，公平模型的测试准确性损失可能很大，有时接近常数预测器的性能。
- 更强的公平性（更小的 δ）会增加投毒的脆弱性，从而在攻击下拉大准确性差距。
- 投毒往往将污染数据放在样本最少、标签最不常见的最小子群体中，以利用公平加权。
- 对抗性偏见可能在测试数据上恶化公平性差，即使训练数据的公平性已满足。
- 针对采样（和标注）的投毒可能导致公平模型在公平性方面的泛化比无约束模型更差。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。