[论文解读] Fairness Testing of Deep Image Classification with Adequacy Metrics

Peixin Zhang, Jingyi Wang+2 more|arXiv (Cornell University)|Nov 17, 2021

Adversarial Robustness in Machine Learning参考文献 51被引用 7

一句话总结

该论文提出 DeepFAIT，一种针对深度图像分类的系统性公平性测试框架，通过显著性检验识别与公平性相关的神经元，利用五种多粒度度量指标评估公平性测试的充分性，并选择最优测试用例以实现高效公平性提升。在 VGGFace 和 FairFace 上的评估表明，DeepFAIT 在检测公平性敏感神经元和以最低成本提升模型公平性方面优于现有方法。

ABSTRACT

As deep image classification applications, e.g., face recognition, become increasingly prevalent in our daily lives, their fairness issues raise more and more concern. It is thus crucial to comprehensively test the fairness of these applications before deployment. Existing fairness testing methods suffer from the following limitations: 1) applicability, i.e., they are only applicable for structured data or text without handling the high-dimensional and abstract domain sampling in the semantic level for image classification applications; 2) functionality, i.e., they generate unfair samples without providing testing criterion to characterize the model's fairness adequacy. To fill the gap, we propose DeepFAIT, a systematic fairness testing framework specifically designed for deep image classification applications. DeepFAIT consists of several important components enabling effective fairness testing of deep image classification applications: 1) a neuron selection strategy to identify the fairness-related neurons; 2) a set of multi-granularity adequacy metrics to evaluate the model's fairness; 3) a test selection algorithm for fixing the fairness issues efficiently. We have conducted experiments on widely adopted large-scale face recognition applications, i.e., VGGFace and FairFace. The experimental results confirm that our approach can effectively identify the fairness-related neurons, characterize the model's fairness, and select the most valuable test cases to mitigate the model's fairness issues.

研究动机与目标

• 解决深度图像分类模型在高维、语义级图像领域中缺乏系统性公平性测试的问题。
• 克服现有公平性测试方法仅关注结构化或文本数据且缺乏衡量测试充分性标准的局限性。
• 开发一种框架，以有效识别深度神经网络在图像应用中的公平性相关神经元。
• 引入多粒度充分性度量指标，对公平性测试过程进行定量评估，超越单纯的样本生成。
• 设计一种高效的测试用例选择算法，优先选择最具价值的测试用例，以最小资源成本修复公平性问题。

提出的方法

• 利用生成对抗网络（GANs）在敏感属性（如种族、性别）之间进行域迁移，同时保持身份和光照特征不变。
• 对经过转换的图像对中神经元激活差异进行显著性检验，以识别网络中的公平性相关神经元。
• 基于识别出的公平性相关神经元，设计五种多粒度充分性度量指标——其中两种为层级别，三种为神经元级别——以评估测试的有效性。
• 实施三种测试用例生成策略：随机生成（RG）、基于梯度的生成（GG）和高斯噪声注入（GI），以生成多样化的不公平样本。
• 开发一种测试用例选择算法，根据其对公平性改进的贡献度对测试用例进行排序，从而以最小重训练成本实现高效模型修复。

实验结果

研究问题

• RQ1 如何在高维、语义级图像空间中有效识别深度图像分类模型中的公平性相关神经元？
• RQ2 可采用哪些多粒度充分性度量指标，对深度学习模型中公平性测试的完整性和有效性进行定量评估？
• RQ3 如何增强测试用例生成方法，以生成多样化且具有代表性的不公平样本，用于图像分类的公平性测试？
• RQ4 测试用例选择策略在多大程度上可降低公平性修复成本，同时保持或提升模型公平性？

主要发现

• DeepFAIT 成功利用 GAN 生成的图像对中神经元激活差异的显著性检验，在深度图像分类模型中识别出公平性相关神经元。
• 所提出的五种充分性度量指标（包括层级别和神经元级别）有效表征了公平性测试的充分性，为评估公平性测试的完整性提供了定量依据。
• 与 DeepImportance 相比，DeepFAIT 在 VGGFace 和 FairFace 模型中展现出更强的公平性敏感神经元检测能力。
• 测试用例选择算法显著减少了公平性修复所需的测试用例数量，同时保持或提升了公平性结果。
• 在 VGGFace 和 FairFace 数据集上的实证评估表明，DeepFAIT 能够有效检测不公平样本，并实现高效缓解模型偏见。