[论文解读] Comparing Human and Machine Bias in Face Recognition

Samuel Dooley, Ryan Downing+11 more|ArXiv.org|Oct 15, 2021

Face recognition and analysis参考文献 48被引用 6

一句话总结

本研究通过清理并改进LFW和CelebA数据集以消除数据缺陷，随后对人类（n=545）和机器模型执行相同的验证与识别任务，比较了人类与机器在面部识别中的偏见。研究发现，人类与学术模型在性别和肤色类型上的偏见程度相似，尽管商业API表现出接近完美的准确率，且可检测到的差异极小。

ABSTRACT

Much recent research has uncovered and discussed serious concerns of bias in facial analysis technologies, finding performance disparities between groups of people based on perceived gender, skin type, lighting condition, etc. These audits are immensely important and successful at measuring algorithmic bias but have two major challenges: the audits (1) use facial recognition datasets which lack quality metadata, like LFW and CelebA, and (2) do not compare their observed algorithmic bias to the biases of their human alternatives. In this paper, we release improvements to the LFW and CelebA datasets which will enable future researchers to obtain measurements of algorithmic bias that are not tainted by major flaws in the dataset (e.g. identical images appearing in both the gallery and test set). We also use these new data to develop a series of challenging facial identification and verification questions that we administered to various algorithms and a large, balanced sample of human reviewers. We find that both computer models and human survey participants perform significantly better at the verification task, generally obtain lower accuracy rates on dark-skinned or female subjects for both tasks, and obtain higher accuracy rates when their demographics match that of the question. Computer models are observed to achieve a higher level of accuracy than the survey participants on both tasks and exhibit bias to similar degrees as the human survey participants.

研究动机与目标

• 解决现有面部识别数据集中存在的关键缺陷，例如重复图像和错误标签，这些缺陷会扭曲偏见测量结果。
• 通过受控且均衡的实验设计，比较面部识别系统中的算法偏见与人类偏见。
• 评估机器模型是否表现出与非专家人类评审员在幅度和方向上可比的偏见模式。
• 评估学术模型与商业面部识别模型在不同人口统计子群体中相对于人类参与者的性能表现。
• 为未来关于面部识别中公平性与准确性的研究，提供高质量、经整理的数据集和调查工具。

提出的方法

• 人工清理并校正了LFW和CelebA数据集，以消除重复图像、错误标签和质量不一致的问题。
• 构建了一个在性别和肤色类型上均保持平衡的新数据集，涵盖验证（1对1）和识别（1对多）任务。
• 向545名非专家人类参与者发放标准化调查问卷，以评估不同人口统计群体中的面部识别准确率。
• 在相同任务上评估了学术训练的面部识别模型以及商业API（AWS、Azure、Face+等）的性能。
• 使用t检验和逻辑回归分析性别与肤色类型下的性能差异，比较人类与机器的结果。
• 报告95%置信区间的优势比，以量化偏见程度并评估统计显著性。

实验结果

研究问题

• RQ1 面部识别系统是否表现出与非专家人类评审员在幅度和方向上可比的偏见模式？
• RQ2 标准数据集（如LFW和CelebA）中的数据质量问题在多大程度上影响了算法偏见的测量？
• RQ3 被识别对象与评估者（人类或机器）之间的种族或性别不匹配在多大程度上影响了识别准确率？
• RQ4 商业面部识别API在偏见和准确率方面与学术模型及人类参与者相比如何？
• RQ5 能否使用同一数据集公平地比较人类与机器在面部识别任务中的表现？

主要发现

• 人类参与者和学术面部识别模型在深色皮肤和女性受试者上的表现显著劣于浅色皮肤和男性受试者。
• 人类与学术模型在性别偏见上的统计幅度相似，验证任务中的误识率优势比范围为1.33–1.46（人类）和1.02–1.61（模型）。
• 在识别任务中，性别偏见的影响也相近，优势比范围为1.84–2.10（人类）和1.43–2.17（学术模型）。
• 肤色类型偏见（浅色与深色）在人类与模型之间的置信区间存在重叠，表明偏见程度相似。
• 商业API（AWS、Face++）在两项任务上的准确率均超过97.3%，且在性别或肤色类型之间无统计显著差异。
• Azure表现出统计显著的男性性别偏见（优势比=1.76，p=0.041），但其偏见幅度与人类及学术模型所观察到的相当。