[论文解读] Is Fairness Only Metric Deep? Evaluating and Addressing Subgroup Gaps in Deep Metric Learning

Natalie Dullerud, Karsten Roth+3 more|arXiv (Cornell University)|Mar 23, 2022

Domain Adaptation and Few-Shot Learning被引用 5

一句话总结

该论文提出 finDML，一个用于通过召回率@k、对齐度和均匀性来衡量表示空间中子组差距的基准，以评估深度度量学习（DML）中的公平性。该研究还提出了 PARADE 方法，通过将特征表示与敏感属性去相关，即使在上游训练数据不平衡的情况下，也能将下游任务中的子组性能差距减少最多 2%。

ABSTRACT

Deep metric learning (DML) enables learning with less supervision through its emphasis on the similarity structure of representations. There has been much work on improving generalization of DML in settings like zero-shot retrieval, but little is known about its implications for fairness. In this paper, we are the first to evaluate state-of-the-art DML methods trained on imbalanced data, and to show the negative impact these representations have on minority subgroup performance when used for downstream tasks. In this work, we first define fairness in DML through an analysis of three properties of the representation space -- inter-class alignment, intra-class alignment, and uniformity -- and propose finDML, the fairness in non-balanced DML benchmark to characterize representation fairness. Utilizing finDML, we find bias in DML representations to propagate to common downstream classification tasks. Surprisingly, this bias is propagated even when training data in the downstream task is re-balanced. To address this problem, we present Partial Attribute De-correlation (PARADE) to de-correlate feature representations from sensitive attributes and reduce performance gaps between subgroups in both embedding space and downstream metrics.

研究动机与目标

• 识别并量化在数据不平衡情况下训练时，深度度量学习（DML）中公平性差异的程度。
• 建立一个用于 DML 中子组公平性的基准，评估受保护属性下表示质量的跨子组表现。
• 证明，如果上游嵌入存在偏差，则仅通过重新平衡数据无法恢复下游公平性。
• 提出一种新方法 PARADE，通过将敏感属性与判别性特征去相关，以改善公平性。

提出的方法

• 提出 finDML，一个基准，使用五个数据集（CARS196、CUB200、CelebA、LFW）并引入数据不平衡，用于评估 DML 中的公平性。
• 定义了三个公平性度量：召回率@k（聚类性能）、对齐度（类间相似性）和组均匀性（类内紧凑性），均在子组间进行评估。
• 提出 PARADE，一种训练时方法，学习两个嵌入：一个用于类别相似性，一个用于敏感属性相似性，然后通过加权损失实现去相关。
• 采用双头架构，测试时丢弃敏感属性嵌入，确保最终的类别嵌入对受保护属性具有不变性。
• 通过在最差子组性能上进行网格搜索，优化 PARADE 的超参数（α_SA、ρ），以最大化公平性。
• 在训练中结合标准 DML 损失（如三元组损失、对比损失、ArcFace）并进行修改，以集成 PARADE。

实验结果

研究问题

• RQ1 当在数据不平衡的数据上训练时，不同最先进 DML 方法在 DML 表示中的子组性能差距如何变化？
• RQ2 如果上游嵌入存在偏差，是否可以通过重新平衡训练数据来恢复下游公平性？
• RQ3 将特征表示与敏感属性去相关，是否能减少上游和下游任务中的子组差距？
• RQ4 所提出的公平性度量（召回率@k、对齐度、均匀性）在多大程度上能捕捉 DML 中的子组公平性？

主要发现

• 在数据不平衡情况下训练时，DML 表示中的子组差距在上游任务中最高可达 21%，在下游分类任务中高达 45.9%。
• 即使下游分类器在平衡数据上训练，由于上游嵌入存在偏差，性能差距依然存在。
• PARADE 在多种 SOTA DML 方法的下游指标中，将子组差距减少了最多 2%，证明了其有效性。
• 基准 finDML 有效识别出在多样化 DML 方法和数据集中的公平性差异，揭示了广泛存在的偏差传播。
• 通过 PARADE 将敏感属性与判别性特征去相关，可带来可测量的公平性提升，且不损害整体性能。