[论文解读] The Variational Fair Autoencoder

Christos Louizos, Kevin Swersky+3 more|UvA-DARE (University of Amsterdam)|Nov 3, 2015

Ethics and Social Impacts of AI被引用 179

一句话总结

变分公平自编码器（VFAE）通过在变分自编码器（VAE）框架中引入最大均值差异（MMD）正则化，有效消除敏感因子（如性别、光照）与潜在表征之间的依赖关系，从而学习到解耦且不变的表征。该方法在公平表征学习与域适应任务中达到最先进性能，在Extended Yale B数据集上将敏感属性分类准确率从96%降低至50%，同时将分类准确率从78%提升至85%。

ABSTRACT

We investigate the problem of learning representations that are invariant to certain nuisance or sensitive factors of variation in the data while retaining as much of the remaining information as possible. Our model is based on a variational autoencoding architecture with priors that encourage independence between sensitive and latent factors of variation. Any subsequent processing, such as classification, can then be performed on this purged latent representation. To remove any remaining dependencies we incorporate an additional penalty term based on the "Maximum Mean Discrepancy" (MMD) measure. We discuss how these architectures can be efficiently trained on data and show in experiments that this method is more effective than previous work in removing unwanted sources of variation while maintaining informative latent representations.

研究动机与目标

• 学习对数据中已知的干扰或敏感因子变化具有不变性的解耦潜在表征。
• 解决先前公平表征学习方法依赖聚类或无法惩罚高阶矩依赖关系的局限性。
• 通过清除敏感属性信息的同时保留与任务相关的信息，提升分类任务的泛化能力。
• 通过因子化先验与基于MMD的后验对齐双重正则化策略，扩展变分自编码器以实现不变性。
• 在公平表征学习与域适应任务中均验证方法的有效性，实现优于现有方法的准确率-不变性权衡。

提出的方法

• 模型采用深层变分自编码器架构，使用因子化先验 p(z)p(s) 以促进潜在码 z 与敏感变量 s 之间的边际独立性。
• 编码器 qϕ(z|x,s) 通过最小化后验与先验之间的KL散度，训练为在给定 x 和 s 时条件独立于 s。
• 应用MMD惩罚项以最小化敏感变量 s 取所有值 k 时的完整后验分布 qϕ(z|s=k) 之间的差异，从而针对潜在分布的所有矩进行优化。
• 目标函数结合标准VAE的ELBO与MMD正则化项，联合优化表征质量与不变性。
• 使用SGVB（重参数化）梯度估计器端到端训练模型，实现对VAE与MMD组件的可微分优化。
• 该方法支持无监督与半监督学习，后者可实现表征学习与下游分类任务的联合优化。

实验结果

研究问题

• RQ1 变分自编码器能否被有效扩展以学习对数据中敏感或干扰因子变化具有不变性的表征？
• RQ2 如何在简单均值对齐之外，进一步消除敏感属性与潜在表征之间的高阶统计依赖关系？
• RQ3 将因子化先验与MMD正则化结合，是否能比仅使用单一正则化形式的先前方法实现更优的解耦与不变性？
• RQ4 此类模型在多大程度上能提升下游分类任务中的公平性与泛化能力？
• RQ5 在域适应任务中，VFAE与对抗性方法及域正则化方法相比，在学习不变表征方面表现如何？

主要发现

• 在Extended Yale B数据集上，VFAE将敏感属性（光照）的分类准确率从96%降低至约50%，表明有效去除了不必要的变化。
• 同一模型将身份标签的分类准确率从78%提升至85%，证明在去除干扰因子后任务性能得到改善。
• VFAE在不变性与准确率之间的权衡优于NN + MMD基线方法，后者在相同任务上仅达到82%的准确率。
• t-SNE可视化显示，经VFAE处理后，数据点主要按身份（y）聚类而非光照（s），证实了成功的解耦。
• 该模型在公平表征学习中优于先前方法，解决了聚类基惩罚无法捕捉的高阶矩泄漏问题。
• VFAE在对抗性域适应方法中表现具有竞争力，验证了其在学习不变表征方面的有效性。