[论文解读] Intra-Processing Methods for Debiasing Neural Networks

Yash Savani, Colin White+1 more|arXiv (Cornell University)|Jun 15, 2020

Adversarial Robustness in Machine Learning被引用 9

一句话总结

本文提出了一种新型的去偏方法——内部处理（intra-processing），这是一种针对微调神经网络的去偏范式，利用模型权重在微调过程中进行自适应调整。该方法提出了三种新颖的算法：随机扰动、逐层优化和对抗性微调，相较于后处理方法，在复杂模型（如在CelebA数据集上的ResNet）上展现出更优的公平性与准确率权衡。

ABSTRACT

As deep learning models become tasked with more and more decisions that impact human lives, such as criminal recidivism, loan repayment, and face recognition for law enforcement, bias is becoming a growing concern. Debiasing algorithms are typically split into three paradigms: pre-processing, in-processing, and post-processing. However, in computer vision or natural language applications, it is common to start with a large generic model and then fine-tune to a specific use-case. Pre- or in-processing methods would require retraining the entire model from scratch, while post-processing methods only have black-box access to the model, so they do not leverage the weights of the trained model. Creating debiasing algorithms specifically for this fine-tuning use-case has largely been neglected. In this work, we initiate the study of a new paradigm in debiasing research, intra-processing, which sits between in-processing and post-processing methods. Intra-processing methods are designed specifically to debias large models which have been trained on a generic dataset and fine-tuned on a more specific task. We show how to repurpose existing in-processing methods for this use-case, and we also propose three baseline algorithms: random perturbation, layerwise optimization, and adversarial fine-tuning. All of our techniques can be used for all popular group fairness measures such as equalized odds or statistical parity difference. We evaluate these methods across three popular datasets from the AIF360 toolkit, as well as on the CelebA faces dataset. Our code is available at https://github.com/abacusai/intraprocessing_debiasing.

研究动机与目标

• 填补针对大规模预训练模型微调的去偏方法空白，其中预处理和后处理均表现不佳。
• 开发一类新型去偏算法——‘内部处理’，可在访问模型权重的前提下对已训练模型进行操作。
• 在实际应用场景（如人脸识别和贷款预测）中实现有效的公平性提升，这些场景中的模型通常需要微调。
• 在多种公平性定义和数据集（包括AIF360和CelebA）上评估内部处理方法，以验证其鲁棒性和优越性。
• 证明内部处理在公平性-准确率权衡上优于后处理方法，尤其在模型复杂度增加时表现更优。

提出的方法

• 将现有的内处理算法（公平性对抗训练）改造为内部处理框架，通过在模型权重上训练判别器来检测偏差。
• 提出一种随机扰动方法，通过迭代地向网络权重施加乘法噪声，并选择能最大化公平性-准确率目标的扰动。
• 引入基于梯度提升回归树（GBRT）的逐层优化方法，对单个网络层进行微调以提升公平性。
• 设计一种可微分的、基于权重的偏差代理，通过判别器网络直接测量模型权重中的偏差，从而支持基于梯度的优化。
• 将目标函数表述为准确率与公平性之间的权衡（例如，公式1中ε=0.05），该函数在所有内部处理方法中通用。
• 将所有方法应用于在下游任务（如在CelebA中分类‘年轻’或‘微笑’）上微调预训练模型（如在ImageNet上预训练的ResNet18）。

实验结果

研究问题

• RQ1 内部处理方法是否能在不从头训练的情况下有效减少微调神经网络中的偏差？
• RQ2 在多种数据集上，内部处理方法在公平性-准确率权衡上的表现与后处理方法相比如何？
• RQ3 初始随机权重初始化是否显著影响微调模型的偏差？这对去偏效果有何影响？
• RQ4 不同内部处理技术（随机扰动、逐层优化、对抗性微调）在模型和数据集复杂度增加时的可扩展性如何？
• RQ5 内部处理方法是否能通过同时提升公平性和准确率，实现对后处理方法的帕累托改进？

主要发现

• 内部处理方法在公平性指标上显著优于后处理技术，包括专为后处理设计的指标（如相等机会后处理）。
• 在CelebA数据集上使用ResNet18时，对抗性微调在种子1下实现了0.914的平衡准确率，优于默认模型（0.819）和后处理方法。
• 不同随机种子下的偏差方差显著高于准确率方差，表明初始模型权重对公平性结果有强烈影响。
• 对于复杂模型和数据集（如在CelebA上的ResNet），对抗性微调始终优于随机扰动和逐层优化等简单方法。
• 内部处理方法在保持或提升准确率的同时降低了偏差得分，表明在多种设置下对后处理方法实现了帕累托主导。
• 正则化有助于在测试集上稳定偏差得分，尤其在数据集规模有限时，提升了去偏性能的一致性。