[论文解读] Learning fair representation with a parametric integral probability metric

Dong Ha Kim, Kunwoong Kim+3 more|arXiv (Cornell University)|Feb 7, 2022

Ethics and Social Impacts of AI被引用 4

一句话总结

该论文提出sIPM-LFR，一种基于参数化积分概率度量（IPM）与基于Sigmoid的判别器族的新型对抗训练方法，用于学习公平表示。该方法提供了表示公平性与最终预测模型公平性之间理论关联的保证，实现了更优的计算效率与稳定性，并在多个数据集和模型上优于现有LFR方法，在公平性-准确率权衡方面表现更优。

ABSTRACT

As they have a vital effect on social decision-making, AI algorithms should be not only accurate but also fair. Among various algorithms for fairness AI, learning fair representation (LFR), whose goal is to find a fair representation with respect to sensitive variables such as gender and race, has received much attention. For LFR, the adversarial training scheme is popularly employed as is done in the generative adversarial network type algorithms. The choice of a discriminator, however, is done heuristically without justification. In this paper, we propose a new adversarial training scheme for LFR, where the integral probability metric (IPM) with a specific parametric family of discriminators is used. The most notable result of the proposed LFR algorithm is its theoretical guarantee about the fairness of the final prediction model, which has not been considered yet. That is, we derive theoretical relations between the fairness of representation and the fairness of the prediction model built on the top of the representation (i.e., using the representation as the input). Moreover, by numerical experiments, we show that our proposed LFR algorithm is computationally lighter and more stable, and the final prediction model is competitive or superior to other LFR algorithms using more complex discriminators.

研究动机与目标

• 为解决现有学习公平表示（LFR）方法中表示公平性与最终预测模型公平性之间缺乏理论关联的问题。
• 为LFR中的对抗训练开发一种原理清晰、计算高效的判别器架构，超越启发式深度神经网络的选择。
• 确保所学表示的公平性能够转化为下游预测模型的公平性。
• 与使用复杂判别器的现有LFR算法相比，提升训练稳定性并降低计算成本。
• 通过实证验证，所提出方法在多样化数据集与预测模型上均能实现竞争性或更优的公平性-准确率权衡。

提出的方法

• 提出基于Sigmoid函数的参数化判别器族，以定义特定的积分概率度量（IPM），替代对抗训练中通用的深度神经网络。
• 在基于自编码器的LFR框架中，将IPM用作公平性正则化项，使编码器学习到的表示能最小化敏感群体分布之间的IPM。
• 通过基于Sigmoid的判别器，引入可微且闭式近似的IPM，实现稳定高效的优化。
• 采用两阶段训练流程：首先使用重建损失预训练自编码器，然后联合优化表示与判别器，使用参数化IPM。
• 将方法应用于多个数据集（Adult、COMPAS、Health）与预测模型（线性模型、SVM、神经网络），以评估公平性与准确率。
• 利用IPM控制公平性水平，通过超参数λ系统性地实现公平性与准确率之间的权衡。

实验结果

研究问题

• RQ1 所学表示的公平性与基于其构建的最终预测模型的公平性之间有何关系？
• RQ2 在LFR中，基于参数化、简单的判别器族（如Sigmoid基）是否能提供强于复杂深度神经网络的理论公平性保证？
• RQ3 使用参数化IPM是否能带来相较于现有LFR方法更稳定且计算更高效的训练？
• RQ4 所提出方法是否能在公平性-准确率权衡上优于SOTA LFR算法（如LAFTR与FVAE）？
• RQ5 所提出方法的性能对表示维度m的选择有多敏感？

主要发现

• 所提出的sIPM-LFR方法在理论上保证了最终预测模型的公平性受表示公平性的有界约束，建立了表示与模型公平性之间的直接联系。
• 与LAFTR相比，sIPM-LFR将计算时间减少了约20%，展现出更优的计算效率。
• 方法对表示维度m的选择表现出更强的不敏感性，表现为在不同m值下Pareto前沿性能更稳定。
• 在公平性-准确率权衡比较中，sIPM-LFR始终优于或匹配LAFTR与FVAE，且在DP、MDP与SDP公平性度量上标准误差更低、中位数表现更优。
• 在所有数据集与模型上，sIPM-LFR均实现了更低的ΔDP、ΔMDP与ΔSDP值，表明其具备更强的公平性，同时保持或提升了预测准确率。
• 理论分析表明，FVAE中使用的MMD被所提出的sIPM上界控制，意味着控制sIPM可确保MMD减小，验证了该方法在公平性上的鲁棒性。