[论文解读] Ethical Adversaries: Towards Mitigating Unfairness with Adversarial Machine Learning

Pieter Delobelle, Paul Temple+4 more|Repository of the University of Namur|May 14, 2020

Ethics and Social Impacts of AI参考文献 41被引用 10

一句话总结

本文提出了一种新颖的对抗性框架，通过结合梯度反传与迭代逃避攻击，以减轻机器学习模型中的不公平性。通过训练模型以抵抗对受保护属性的猜测，同时利用对抗性样本提升公平性，该方法在COMPAS、German Credit和Adult数据集上实现了在人口均等性和机会均等性方面的最先进性能，且实用性能损失最小。

ABSTRACT

Machine learning is being integrated into a growing number of critical systems with far-reaching impacts on society. Unexpected behaviour and unfair decision processes are coming under increasing scrutiny due to this widespread use and its theoretical considerations. Individuals, as well as organisations, notice, test, and criticize unfair results to hold model designers and deployers accountable. We offer a framework that assists these groups in mitigating unfair representations stemming from the training datasets. Our framework relies on two inter-operating adversaries to improve fairness. First, a model is trained with the goal of preventing the guessing of protected attributes' values while limiting utility losses. This first step optimizes the model's parameters for fairness. Second, the framework leverages evasion attacks from adversarial machine learning to generate new examples that will be misclassified. These new examples are then used to retrain and improve the model in the first step. These two steps are iteratively applied until a significant improvement in fairness is obtained. We evaluated our framework on well-studied datasets in the fairness literature -- including COMPAS -- where it can surpass other approaches concerning demographic parity, equality of opportunity and also the model's utility. We also illustrate our findings on the subtle difficulties when mitigating unfairness and highlight how our framework can assist model designers.

研究动机与目标

• 解决机器学习模型中的分配不公平性，特别是在高风险决策系统中。
• 开发一种框架，在不显著降低模型实用性能的前提下提升公平性。
• 探索对抗性机器学习技术——特别是逃避攻击——在公平性缓解中的应用。
• 在包含COMPAS、German Credit和Adult的真实世界公平性基准数据集上评估该框架。
• 证明迭代式对抗性样本生成能够揭示并纠正模型表征中的隐藏不公平性。

提出的方法

• 该框架采用两个相互协作的对抗性代理：对抗性阅读器利用梯度反传最小化模型预测受保护属性的能力。
• 对抗性馈送器通过生成对抗性样本（即逃避攻击）来误导模型，这些样本随后用于重新训练分类器。
• 该过程在对抗性训练以提升公平性与逃避攻击生成以探索输入空间中未充分探索区域之间交替进行。
• 逃避攻击中使用的代理模型通过梯度优化方法训练，以将对抗性扰动转移至目标模型。
• 该框架以迭代方式应用，通过连续的攻击与再训练轮次，逐步提升模型的公平性与鲁棒性。
• 该方法使用二分类准确率与宏平均F1分数评估实用性能，使用人口均等性（DP, DPR）与机会均等性（EO）评估公平性。

实验结果

研究问题

• RQ1 能否有效将逃避攻击重新用于提升机器学习模型的公平性？
• RQ2 将梯度反传与迭代式对抗性样本生成结合，是否能比现有方法带来更优的公平性-实用性能权衡？
• RQ3 该框架在具有已知公平性问题的真实世界数据集（如COMPAS与German Credit）上的表现如何？
• RQ4 该框架能否在不损害模型实用性能的前提下检测并纠正分配性伤害？
• RQ5 可转移的对抗性样本在多大程度上提升了公平性缓解中对输入空间的覆盖范围？

主要发现

• 在COMPAS数据集上，该框架实现了最佳的人口均等性（DP）表现，并显著降低了机会均等性差异（EO = 0.008），优于基线模型与GRL方法。
• 在German Credit数据集上，模型在保持高实用性能的同时改善了公平性指标（DPR = 0.926），准确率与F1分数均超过基线。
• 在Adult数据集上，该框架在所有公平性约束模型中实现了最高实用性能，同时在DP与EO方面均表现出显著的公平性提升。
• 该框架表明，仅使用梯度反传不足以实现公平性，但当与对抗性样本生成结合时，可生成内在更公平的模型。
• 通过迭代使用逃避攻击，框架揭示了输入空间中此前未被发现的区域，从而增强了模型的鲁棒性与公平性。
• 开源实现已发布于 https://github.com/iPieter/ethical-adversaries，采用MIT许可证。