[论文解读] Fair Interpretable Representation Learning with Correction Vectors

Mattia Cerrato, Alesia Vallenas Coronel+4 more|arXiv (Cornell University)|Feb 7, 2022

Adversarial Robustness in Machine Learning被引用 5

一句话总结

该论文提出了一种新颖的公平表示学习框架，通过可解释的校正向量在保留模型性能的同时对数据进行去偏。通过架构约束或可逆归一化流显式学习特征级别的校正，该方法实现了人类可读的、可分解的公平性干预，且不损失准确性，实现了最先进的公平性-性能权衡。

ABSTRACT

Neural network architectures have been extensively employed in the fair representation learning setting, where the objective is to learn a new representation for a given vector which is independent of sensitive information. Various representation debiasing techniques have been proposed in the literature. However, as neural networks are inherently opaque, these methods are hard to comprehend, which limits their usefulness. We propose a new framework for fair representation learning that is centered around the learning of "correction vectors", which have the same dimensionality as the given data vectors. Correction vectors may be computed either explicitly via architectural constraints or implicitly by training an invertible model based on Normalizing Flows. We show experimentally that several fair representation learning models constrained in such a way do not exhibit losses in ranking or classification performance. Furthermore, we demonstrate that state-of-the-art results can be achieved by the invertible model. Finally, we discuss the law standing of our methodology in light of recent legislation in the European Union.

研究动机与目标

• 解决基于深度神经网络的公平表示学习方法中可解释性不足的问题。
• 通过将去偏表示映射回原始特征空间，实现对公平性校正的人类可读检查。
• 在确保公平性的同时，通过显式校正向量保持分类和排序任务中的高性能。
• 通过透明且可分解的校正，支持‘解释权’，与欧盟人工智能法规保持一致。
• 探讨对非受保护群体显式惩罚的公平性干预可能带来的法律与伦理影响。

提出的方法

• 该框架学习与输入数据维度相同的校正向量，表示对每个样本施加的公平性调整。
• 通过架构约束显式计算，强制表示映射具备特定属性。
• 通过可逆归一化流实现隐式计算，学习从输入到校正表示的双射变换。
• 将公平表示学习分解为两个阶段：(1) 学习校正向量，(2) 下游任务优化。
• 校正向量源自原始表示与去偏表示之间的差异，可在特征空间中实现直接解释。
• 该方法支持表格数据和高维向量数据，但尚未针对图像和文本数据进行优化。

实验结果

研究问题

• RQ1 能否通过显式、人类可读的校正向量使公平表示学习变得可解释？
• RQ2 通过架构约束强制学习校正向量是否能在下游任务中保持性能？
• RQ3 可逆归一化流能否在公平表示学习中实现最先进的公平性-性能权衡？
• RQ4 该校正向量框架如何与欧盟人工智能法规保持一致，特别是‘解释权’方面？
• RQ5 对非受保护群体显式惩罚特征的公平性干预可能带来哪些潜在法律与伦理影响？

主要发现

• 所提出的框架通过基于可逆归一化流的校正向量模型，实现了最先进的公平性-性能权衡。
• 通过架构约束实现显式校正向量计算，在分类和排序任务中性能损失可忽略不计。
• 校正向量可解释为直接的、特征级别的调整，使人类分析师能够检查公平性干预。
• 该方法通过使公平机制透明且可分解，支持‘解释权’。
• 该框架引发重要法律考量，因为显式校正可能影响反歧视权利，特别是当非受保护群体被惩罚时。
• 该方法为实现法律合规、可信赖的人工智能提供了路径，通过打开公平深度学习模型的黑箱实现。