[论文解读] README: REpresentation learning by fairness-Aware Disentangling MEthod

Sungho Park, Dohyung Kim+2 more|arXiv (Cornell University)|Jul 7, 2020

Face recognition and analysis参考文献 34被引用 9

一句话总结

本文提出公平感知解耦变分自编码器（FD-VAE），将潜在表征解耦为三个独立子空间：目标属性（TAL）、受保护属性（PAL）和互属性（MAL）。通过排除PAL并转换MAL以消除受保护属性信息，FD-VAE实现了更优的公平性-准确率权衡，在CelebA和UTK Face数据集上，于平等机会和均等机会指标上显著优于先前最先进方法。

ABSTRACT

Fair representation learning aims to encode invariant representation with respect to the protected attribute, such as gender or age. In this paper, we design Fairness-aware Disentangling Variational AutoEncoder (FD-VAE) for fair representation learning. This network disentangles latent space into three subspaces with a decorrelation loss that encourages each subspace to contain independent information: 1) target attribute information, 2) protected attribute information, 3) mutual attribute information. After the representation learning, this disentangled representation is leveraged for fairer downstream classification by excluding the subspace with the protected attribute information. We demonstrate the effectiveness of our model through extensive experiments on CelebA and UTK Face datasets. Our method outperforms the previous state-of-the-art method by large margins in terms of equal opportunity and equalized odds.

研究动机与目标

• 为解决现有解耦表征学习方法在去除受保护属性信号时无意中丢弃有用目标属性信息的局限性。
• 通过显式将潜在表征解耦为三个独立子空间（目标、受保护和互属性）来提升下游分类的公平性。
• 提出一种去相关损失，确保TAL仅包含目标属性信息，PAL仅包含受保护属性信息，从而在不牺牲准确率的前提下增强公平性。
• 验证转换MAL（互属性潜在变量）可提升公平性与准确率，通过消除受保护属性影响同时保留判别性信息。
• 在CelebA和UTK Face等基准数据集上，与先前最先进方法相比，实现更优的公平性-准确率权衡。

提出的方法

• FD-VAE将潜在空间解耦为三个子空间：TAL（目标属性潜在变量）、PAL（受保护属性潜在变量）和MAL（互属性潜在变量），以确保其独立性。
• 提出一种新型去相关损失，结合分类损失（L_CLS）和对抗损失（L_ADV），以强制TAL仅编码目标属性信息，PAL仅编码受保护属性信息。
• 对MAL进行变换（z_n），以消除受保护属性信息，从而使其在下游分类中使用时不会引入偏差。
• 下游分类任务使用TAL和变换后的MAL（z_n），完全排除PAL，以确保对受保护属性的公平性。
• 该方法在抑制受保护属性影响的同时，利用目标和互属性信息，从而改善公平性与准确率的权衡。
• 该方法采用基于变分自编码器的端到端训练框架，通过所提出的去相关损失和辅助监督实现解耦。

实验结果

研究问题

• RQ1 将潜在表征解耦为三个独立子空间（目标、受保护和互属性）是否能提升下游分类的公平性？
• RQ2 在排除受保护属性潜在变量（PAL）的同时利用变换后的互属性潜在变量（z_n），是否能实现优于现有解耦表征学习方法的公平性-准确率权衡？
• RQ3 所提出的去相关损失在多大程度上减少了潜在空间中目标属性与受保护属性之间的信息泄露？
• RQ4 与仅使用TAL相比，包含并变换MAL对公平性和分类准确率有何影响？
• RQ5 FD-VAE是否在CelebA和UTK Face等真实世界数据集上实现了平等机会和均等机会等公平性指标的最先进性能？

主要发现

• 在CelebA数据集上，FD-VAE在平等机会指标上比先前最先进方法（FFVAE）提升16.4%，在均等机会指标上提升12.6%。
• 在UTK Face数据集上，FD-VAE在平等机会指标上比先前SOTA方法提升2.3%，在均等机会指标上提升2.0%。
• 消融研究显示，添加L_CLS损失可提升公平性与准确率；而添加完整去相关损失（L_CLS + L_ADV）后，平等机会与均等机会指标分别提升12.2%和10.5%。
• 若不进行变换直接使用MAL，公平性显著下降；而对MAL进行变换（z_n）后，可在保持高公平性的同时实现更高准确率，证实其有效性。
• FD-VAE在分类准确率上与FFVAE相当，但在公平性指标上显著优于后者，表明其具备更优的公平性-准确率权衡。
• 该模型在CelebA和UTK Face数据集上均表现出稳健性能，证实其在不同数据分布和属性组合下的泛化能力。