[论文解读] Fairness Reprogramming

Guanhua Zhang, Yihua Zhang+5 more|arXiv (Cornell University)|Sep 21, 2022

Insurance, Mortality, Demography, Risk Management被引用 6

一句话总结

该论文提出 FairReprogram，一种后处理框架，通过在输入中添加可学习的公平性触发器，利用最小-最大优化方法掩盖人口统计学偏差，从而提升固定机器学习模型的公平性。与微调方法相比，该方法在 NLP 和 CV 基准测试中实现了更优的公平性提升，同时保持了极低的准确率损失和计算成本，尤其适用于具有现实世界偏差的数据集。

ABSTRACT

Despite a surge of recent advances in promoting machine Learning (ML) fairness, the existing mainstream approaches mostly require retraining or finetuning the entire weights of the neural network to meet the fairness criteria. However, this is often infeasible in practice for those large-scale trained models due to large computational and storage costs, low data efficiency, and model privacy issues. In this paper, we propose a new generic fairness learning paradigm, called FairReprogram, which incorporates the model reprogramming technique. Specifically, FairReprogram considers the case where models can not be changed and appends to the input a set of perturbations, called the fairness trigger, which is tuned towards the fairness criteria under a min-max formulation. We further introduce an information-theoretic framework that explains why and under what conditions fairness goals can be achieved using the fairness trigger. We show both theoretically and empirically that the fairness trigger can effectively obscure demographic biases in the output prediction of fixed ML models by providing false demographic information that hinders the model from utilizing the correct demographic information to make the prediction. Extensive experiments on both NLP and CV datasets demonstrate that our method can achieve better fairness improvements than retraining-based methods with far less data dependency under two widely-used fairness criteria. Codes are available at https://github.com/UCSB-NLP-Chang/Fairness-Reprogramming.git.

研究动机与目标

• 为解决基于微调的公平性方法存在的计算成本高、难以应用于大规模私有模型的问题。
• 探索是否可以在不修改模型权重的情况下，将模型重编程技术适配至公平性目标。
• 开发一种通用、可扩展且保护隐私的公平性框架，适用于多种任务和领域。
• 从理论上解释在何种条件下，固定公平性触发器可有效降低模型预测中的性别偏差。
• 证明输入级扰动可实现优于全模型微调的公平性-准确率权衡。

提出的方法

• 引入一种公平性触发器——一种固定且可学习的输入扰动，附加于模型输入，以重编程模型行为向公平性方向发展。
• 采用最小-最大优化框架，其中触发器被优化以最小化公平性违规，同时保持预测性能。
• 提出一种信息论框架，分析公平性触发器如何干扰模型对真实人口统计信息的使用。
• 基于解耦特征假设（与 Y 和 Z 相关的特征），形式化描述触发器如何掩盖人口统计偏差的机制。
• 在具有现实世界偏差的真实数据集上，将该方法应用于 NLP 和计算机视觉任务。
• 采用类似于事前处理公平性方法的对抗性损失项，但优化的是输入触发器而非模型参数。

实验结果

研究问题

• RQ1 模型重编程技术能否有效应用于固定机器学习模型的公平性目标？
• RQ2 为何以及在何种条件下，固定输入触发器能够成功降低模型预测中的性别偏差？
• RQ3 与基于微调的方法相比，公平性触发器在公平性提升和准确率权衡方面表现如何？
• RQ4 公平性触发器是否可在无需重新训练的情况下跨不同数据集和任务迁移使用？
• RQ5 何种理论条件使得固定输入扰动能破坏模型对人口统计属性的依赖？

主要发现

• 在 CelebA 数据集上，FairReprogram 在两种公平性标准下分别比基于微调的基线方法降低 10.5% 和 36.5% 的偏差得分，且准确率相当。
• 该方法表现出强大的可迁移性，在无需重新训练的情况下，于多种 NLP 和 CV 基准测试中均保持高水平的公平性提升。
• 通过注入虚假的人口统计信号，公平性触发器有效掩盖了真实的人口统计信息，降低了模型对敏感属性的依赖。
• 理论分析表明，当触发器对其虚假人口统计信号具有高度置信度时，模型的预测分布会收敛至目标公平分布。
• FairReprogram 在公平性-准确率权衡方面优于基于微调的方法，尤其在低数据场景和模型参数访问受限时表现更优。
• 该方法计算效率高且可扩展，仅需输入级修改，无需修改模型权重或梯度。