[论文解读] On the Fairness of Disentangled Representations

Francesco Locatello, Gabriele Abbati+4 more|arXiv (Cornell University)|May 31, 2019

Adversarial Robustness in Machine Learning参考文献 94被引用 8

一句话总结

本文研究了当敏感属性不可见时，解耦表示是否能提升下游预测任务中的公平性。研究结果表明，更高的解耦程度——尤其是通过DCI分数衡量——与在超过12,600个模型中持续降低不公平性相关，表明解耦是一种实用的归纳偏置，可用于公平表示学习。

ABSTRACT

Recently there has been a significant interest in learning disentangled representations, as they promise increased interpretability, generalization to unseen scenarios and faster learning on downstream tasks. In this paper, we investigate the usefulness of different notions of disentanglement for improving the fairness of downstream prediction tasks based on representations. We consider the setting where the goal is to predict a target variable based on the learned representation of high-dimensional observations (such as images) that depend on both the target variable and an \emph{unobserved} sensitive variable. We show that in this setting both the optimal and empirical predictions can be unfair, even if the target variable and the sensitive variable are independent. Analyzing the representations of more than um{12600} trained state-of-the-art disentangled models, we observe that several disentanglement scores are consistently correlated with increased fairness, suggesting that disentanglement may be a useful property to encourage fairness when sensitive variables are not observed.

研究动机与目标

• 研究当敏感变量不可见时，解耦表示是否能提升下游预测任务中的公平性。
• 分析即使目标变量与敏感变量独立，最优或经验预测仍可能不公平的原因。
• 评估在多种数据集上，基于最先进解耦表示训练的下游模型的公平性。
• 研究解耦分数与公平性之间的关系，特别是在人口均等性约束下的表现。
• 评估解耦是否在不损害下游准确率的前提下提升公平性。

提出的方法

• 作者分析了在七个数据集上训练的超过12,600个最先进的解耦模型的表示。
• 通过人口均等性指标评估下游公平性，衡量不同敏感群体之间的预测公平性。
• 使用六种成熟的度量方法量化解耦程度，包括DCI解耦分数、Factor-VAE等。
• 比较在不同解耦水平的表示上训练的下游分类器的公平性。
• 通过统计分析检验解耦分数与公平性之间的相关性，同时控制下游准确率。
• 理论分析表明，即使在贝叶斯最优分类器中，当敏感变量与目标变量在观测中纠缠时，仍可能存在不公平性。

实验结果

研究问题

• RQ1 当敏感属性不可见时，解耦表示能否降低下游预测任务中的不公平性？
• RQ2 在不同数据集和模型中，解耦分数与公平性之间是否存在一致的相关性？
• RQ3 更高的解耦程度是否能在不降低下游预测准确率的前提下提升公平性？
• RQ4 是否可以通过表示学习本身提升公平性，而无需在训练期间访问标注的敏感属性？
• RQ5 解耦度量方法的选择如何影响下游公平性结果？

主要发现

• 即使目标变量与敏感变量独立，由于观测中存在纠缠，下游预测仍可能不公平。
• DCI解耦分数在所有评估的数据集中均与公平性的提升呈现强烈且一致的相关性。
• 共评估了超过12,600个解耦模型，结果表明公平性因所用表示的不同而存在显著差异。
• 即使在控制下游预测准确率后，解耦与公平性之间的相关性依然存在。
• 解耦似乎是一种对公平性有用的归纳偏置，支持关于其在公平表示学习中作用的理论推测。
• 结果表明，解耦可能有助于减轻敏感属性通过间接信息泄露影响预测结果，即使未对这些属性进行显式监督。