[论文解读] Feature-Wise Bias Amplification

K. Rustan M. Leino, Emily Black+3 more|arXiv (Cornell University)|Dec 21, 2018

Machine Learning and Data Classification被引用 10

一句话总结

本文识别并解决了机器学习分类器中的特征层面偏差放大问题——在数据稀缺时，梯度下降会过度估计中等预测力的'弱'特征，导致预测偏差。作者提出了两种特征选择方法，在不损失准确率的前提下减少偏差，在VGG16等深度网络上对CelebA数据集的偏差减少了高达98%，同时保持或提升准确率。

ABSTRACT

We study the phenomenon of bias amplification in classifiers, wherein a machine learning model learns to predict classes with a greater disparity than the underlying ground truth. We demonstrate that bias amplification can arise via an inductive bias in gradient descent methods that results in the overestimation of the importance of moderately-predictive "weak" features if insufficient training data is available. This overestimation gives rise to feature-wise bias amplification -- a previously unreported form of bias that can be traced back to the features of a trained model. Through analysis and experiments, we show that while some bias cannot be mitigated without sacrificing accuracy, feature-wise bias amplification can be mitigated through targeted feature selection. We present two new feature selection algorithms for mitigating bias amplification in linear models, and show how they can be adapted to convolutional neural networks efficiently. Our experiments on synthetic and real data demonstrate that these algorithms consistently lead to reduced bias without harming accuracy, in some cases eliminating predictive bias altogether while providing modest gains in accuracy.

研究动机与目标

• 识别由梯度下降对弱特征的归纳偏差驱动的、此前未报告的分类器偏差放大形式。
• 证明即使在类别先验无偏的情况下，偏差放大仍可能发生，挑战了类别不平衡是唯一原因的假设。
• 开发特征选择技术，以缓解特征层面的偏差放大，同时保持或提升模型准确率。
• 展示这些方法在包括VGG16在内的线性模型和深度神经网络中均有效，适用于真实世界数据集。

提出的方法

• 提出一种新型偏差——特征层面偏差放大，其源于在训练数据不足时，梯度下降过度估计中等预测力、非对称特征的重要性。
• 引入两种特征选择算法：(1) 特征均等化，通过在各类别间平衡特征贡献来减少偏差；(2) 影响导向的专家选择，利用人机协同反馈识别并移除有偏差的特征。
• 通过将这些方法应用于VGG16等模型的最后全连接层，将其视为来自特征提取器的特征上的线性分类器，从而将特征选择方法适配至深度网络。
• 使用网格搜索调优专家选择方法的超参数（α, β），并采用ℓ1正则化作为基线对比，目标是在不损失准确率的前提下最小化偏差。
• 使用逻辑回归和深度学习模型（如VGG16）在合成数据集和真实数据集（如CelebA、arcene、prostate）上训练，评估所提方法。
• 通过预测偏差与类别先验的相对关系衡量偏差放大，并在分层划分的数据集上使用标准指标评估准确率。

实验结果

研究问题

• RQ1 在无类别不平衡的情况下，偏差放大是否可能发生？若发生，其驱动机制是什么？
• RQ2 在低数据环境下，梯度下降的归纳偏差在多大程度上会放大弱特征（中等预测力特征）的重要性？
• RQ3 特征选择能否在不降低模型准确率的前提下缓解特征层面的偏差放大？
• RQ4 与传统的ℓ1正则化相比，所提出的特征选择方法在深度神经网络上的有效性如何？

主要发现

• 即使类别先验无偏，特征层面偏差放大仍会发生，其根源在于梯度下降在数据稀缺时对弱特征的过度估计。
• 在prostate数据集上，影响导向的专家方法实现了90%的准确率，同时将偏差降低了80%，显著优于原始模型。
• 在CelebA数据集上，VGG16模型的7.7%偏差被降低至0.2%（减少98%），仅带来0.3%的准确率提升，有效消除了预测偏差。
• 在所有数据集上，包括深度网络，影响导向的专家方法在偏差降低和准确率保持方面均优于ℓ1正则化。
• 特征均等化在大多数情况下改善了偏差和准确率，但在深度网络中效果有限，原因在于其固有的特征不对称性较低。
• 所提方法在减少泛化误差方面比ℓ1正则化更有效，无论在线性模型还是深度模型中，均表现出更广泛的鲁棒性。