[论文解读] Algorithmic Discrimination: Formulation and Exploration in Deep Learning-based Face Biometrics

Ignacio Serna, Aythami Morales+4 more|arXiv (Cornell University)|Dec 4, 2019

Face recognition and analysis参考文献 32被引用 6

一句话总结

本文提出了基于深度学习的人脸生物识别中算法歧视的一般性公式，并利用新引入的DiveFace数据集（包含24,000个身份，平均分配至六个人口统计群体）评估其影响。结果表明，广泛使用的模型如ResNet-50和VGG-Face在代表性不足群体（例如第3组女性）中性能的相对误差退化最高可达200%，揭示了学习到的特征表示中存在显著的人口统计偏差。

ABSTRACT

The most popular face recognition benchmarks assume a distribution of subjects without much attention to their demographic attributes. In this work, we perform a comprehensive discrimination-aware experimentation of deep learning-based face recognition. The main aim of this study is focused on a better understanding of the feature space generated by deep models, and the performance achieved over different demographic groups. We also propose a general formulation of algorithmic discrimination with application to face biometrics. The experiments are conducted over the new DiveFace database composed of 24K identities from six different demographic groups. Two popular face recognition models are considered in the experimental framework: ResNet-50 and VGG-Face. We experimentally show that demographic groups highly represented in popular face databases have led to popular pre-trained deep face models presenting strong algorithmic discrimination. That discrimination can be observed both qualitatively at the feature space of the deep models and quantitatively in large performance differences when applying those models in different demographic groups, e.g. for face biometrics.

研究动机与目标

• 开发一种适用于机器学习任务的一般性数学公式，用于描述算法歧视。
• 研究性别和种族等人口统计属性如何影响深度人脸识别模型中的特征表示。
• 利用新提出的DiveFace数据集，评估主流深度学习模型（ResNet-50和VGG-Face）在平衡人口群体中的性能表现。
• 分析训练数据中的人口统计偏差在推理阶段导致歧视性行为的程度，即使模型未被显式训练用于人口统计分类。
• 揭示尽管未明确指示，但训练用于人脸识别的模型其学习到的特征空间中仍包含显著的种族相关信息。

提出的方法

• 基于不同人口群体之间的性能差异，提出一种算法歧视的一般性公式，通过一个最大化性能函数f的 goodness 准则 G 来定义，该函数基于给定数据集 D。
• 在包含24,000个身份、平均分配至六个群体（三种种族、男性/女性）的DiveFace数据集上，微调深度神经网络（ResNet-50和VGG-Face）。
• 使用类激活映射（CAM）和Grad-CAM可视化注意力图，分析模型在不同人口群体中对人脸区域的关注程度。
• 应用t-SNE将高维深度嵌入投影至二维空间，可视化与种族和性别相关的聚类模式。
• 通过等错误率（EER）和不同人口子群体间的相对误差退化量化性能差异，以衡量算法偏差。
• 分析学习到的特征表示与人口统计属性之间的相关性，即使模型未被训练用于此类分类任务。

实验结果

研究问题

• RQ1 在机器学习，特别是人脸识别的背景下，如何对算法歧视进行形式化公式化？
• RQ2 种族和性别等人口统计属性在多大程度上影响深度人脸识别模型所学习到的特征表示？
• RQ3 当在平衡数据集上使用主流预训练深度学习模型时，性能在不同人口群体之间如何变化？
• RQ4 在未明确指令的情况下，人脸识别模型的特征空间中嵌入了多大程度的种族信息（例如）？
• RQ5 与代表性更高的群体相比，代表性不足群体在最先进的人脸识别系统中的性能退化程度有多大？

主要发现

• ResNet-50模型在Group 1（代表性最高）中的类激活图（CAM）平均激活值为0.23（G1M），而在Group 3（代表性最低）中为0.12（G3M），表明其激活显著更高。
• ResNet-50嵌入的t-SNE可视化显示了三个与种族强相关的明显聚类，尽管模型未被训练用于种族分类。
• 性能退化最高可达200%，在表现最佳的群体（Group 1 Male）与最差群体（Group 3 Female）之间。
• Group 3 Females的假阳性率估计比Group 1 Males高出200%，表明在代表性不足群体中存在显著的误识别风险。
• 本研究证实，即使模型未被显式训练用于检测人口统计属性，训练数据中的人口统计偏差仍会导致强烈的算法歧视。
• 深度人脸识别模型的特征空间编码了显著的人口统计信息，特别是种族信息，可通过t-SNE等简单可视化技术提取。