[论文解读] Image Counterfactual Sensitivity Analysis for Detecting Unintended Bias

Emily Denton, Ben Hutchinson+3 more|arXiv (Cornell University)|Jun 14, 2019

Generative Adversarial Networks and Image Synthesis参考文献 38被引用 19

一句话总结

本文提出图像反事实敏感性分析，一种利用生成对抗网络创建受控、逼真的面部特征扰动并衡量其对分类器预测影响的框架。应用于微笑属性分类器时，该方法揭示了光照、姿态和肤色等显著影响预测结果的可变因素，展示了检测面部分析模型中无意偏见的实用方法。

ABSTRACT

Facial analysis models are increasingly used in applications that have serious impacts on people's lives, ranging from authentication to surveillance tracking. It is therefore critical to develop techniques that can reveal unintended biases in facial classifiers to help guide the ethical use of facial analysis technology. This work proposes a framework called extit{image counterfactual sensitivity analysis}, which we explore as a proof-of-concept in analyzing a smiling attribute classifier trained on faces of celebrities. The framework utilizes counterfactuals to examine how a classifier's prediction changes if a face characteristic slightly changes. We leverage recent advances in generative adversarial networks to build a realistic generative model of face images that affords controlled manipulation of specific image characteristics. We then introduce a set of metrics that measure the effect of manipulating a specific property on the output of the trained classifier. Empirically, we find several different factors of variation that affect the predictions of the smiling classifier. This proof-of-concept demonstrates potential ways generative models can be leveraged for fine-grained analysis of bias and fairness.

研究动机与目标

• 开发一种检测面部分析模型中无意偏见的方法，特别是在监控和身份认证等高风险应用中。
• 解决识别影响分类器预测的细微、非显而易见的可变因素的挑战，这些因素超出了种族或性别等明显属性的范围。
• 构建一个概念验证框架，实现对图像层面微小变化如何影响模型输出的细粒度、可解释性分析。
• 利用生成模型生成逼真、受控的反事实图像，以探测分类器在扰动条件下的行为。

提出的方法

• 利用生成对抗网络（GANs）学习支持特定面部特征受控操作的真实人脸图像流形。
• 通过扰动特定属性（如光照、姿态或肤色）生成反事实图像，同时保持其他特征不变。
• 在名人面部图像上训练微笑属性分类器，作为偏见分析的目标模型。
• 应用一组度量来量化特定图像属性变化对分类器输出微笑属性概率的影响。
• 采用解耦表示空间，隔离并修改生成图像中的单个可变因素。
• 分析分类器预测对每个被操纵因素的敏感性，以检测指示偏见的模式。

实验结果

研究问题

• RQ1 光照、姿态和肤色等面部图像特征的受控变化在多大程度上影响微笑属性分类器的预测？
• RQ2 面部图像中的哪些具体可变因素会导致分类器输出的显著变化，表明可能存在偏见？
• RQ3 生成模型在多大程度上可用于生成逼真的反事实图像，以实现细粒度的公平性分析？
• RQ4 基于图像反事实的敏感性分析能否揭示标准公平性度量无法检测到的隐藏偏见？

主要发现

• 微笑属性分类器对光照和姿态等非语义图像因素表现出显著敏感性，表明其偏见可能与实际面部表情无关。
• 肤色被发现会影响预测结果，表明该模型在不同人口群体间可能不具备同等泛化能力。
• 该框架成功识别出多个可变因素，即使面部表情保持不变，这些因素也会改变分类器的预测结果。
• 基于 GAN 的反事实图像实现了逼真且受控的扰动，使分析既具有可解释性又具备实证基础。
• 该方法表明，微小但逼真的图像级变化可能导致预测结果的巨大波动，凸显了某些面部分类器在微小视觉变化下的脆弱性。
• 该方法表明，反事实敏感性分析能够揭示仅通过聚合公平性度量无法检测到的偏见模式。