[论文解读] Optimal Training of Fair Predictive Models

Razieh Nabi, Daniel Malinsky+1 more|arXiv (Cornell University)|Oct 9, 2019

Ethics and Social Impacts of AI参考文献 26被引用 4

一句话总结

本文提出了一种对观测数据似然函数的新型重参数化方法，将公平性约束——特别是路径特定因果效应——直接作为似然函数中的参数嵌入，从而将复杂的非线性约束转化为简单的盒式约束。通过结合经验似然技术以约束基线协变量，该方法在强制执行公平性的同时提升了预测准确性，在模拟实验中性能接近无约束模型。

ABSTRACT

Recently there has been sustained interest in modifying prediction algorithms to satisfy fairness constraints. These constraints are typically complex nonlinear functionals of the observed data distribution. Focusing on the path-specific causal constraints proposed by Nabi and Shpitser (2018), we introduce new theoretical results and optimization techniques to make model training easier and more accurate. Specifically, we show how to reparameterize the observed data likelihood such that fairness constraints correspond directly to parameters that appear in the likelihood, transforming a complex constrained optimization objective into a simple optimization problem with box constraints. We also exploit methods from empirical likelihood theory in statistics to improve predictive performance by constraining baseline covariates, without requiring parametric models. We combine the merits of both proposals to optimize a hybrid reparameterized likelihood. The techniques presented here should be applicable more broadly to fair prediction proposals that impose constraints on predictive models.

研究动机与目标

• 解决在由因果路径特定效应导出的复杂非线性公平性约束下训练公平预测模型的挑战。
• 通过重参数化似然函数，使公平性约束以显式且易于约束的参数形式出现，从而简化约束优化。
• 通过引入经验似然方法以约束基线协变量，而不假设参数模型，从而提升预测性能。
• 开发一种结合重参数化与经验似然的混合方法，以实现更高效的数据利用和更高的预测准确性。
• 证明该方法可推广至其他公平性约束预测问题，而不仅限于所研究的因果框架。

提出的方法

• 重参数化观测数据似然函数，使不公平的路径特定效应成为似然函数中的显式参数，从而可将公平性约束作为对这些参数的简单盒式约束来实施。
• 利用经验似然理论构建一个半参数似然，以约束基线协变量的分布，提升数据效率和预测准确性。
• 构建一种混合似然，将重参数化似然与协变量的经验似然约束相结合，实现公平性与预测的联合优化。
• 将该方法应用于结果依赖于中介变量和敏感属性的因果模型中，通过限制直接和间接路径特定效应来实现公平性。
• 使用约束最大似然估计（MLE）结合重参数化和混合似然，对似然参数和经验似然权重同时进行优化。
• 利用g-公式和逆概率加权（IPW）作为基准，通过KL散度和均方误差（MSE）评估所提方法的性能。

实验结果

研究问题

• RQ1 能否将路径特定公平性约束直接嵌入似然函数作为参数，以简化预测建模中的约束优化？
• RQ2 通过重参数化使公平性约束显式化后，与标准约束MLE相比，预测准确性如何变化？
• RQ3 在不作参数假设的前提下，经验似然技术在约束基线协变量方面能在多大程度上提升公平性感知预测？
• RQ4 将重参数化与经验似然结合是否能带来优于任一方法单独使用时的预测性能？
• RQ5 所提出的混合方法是否能在最小化预测准确性损失的前提下实现公平性，接近无约束模型的性能？

主要发现

• 与标准约束MLE（M1）相比，重参数化MLE方法（M2）使KL散度相对于真实不公平分布降低了1.5%，但MSE仅获得微小改善。
• 混合MLE方法（M3）在模拟实验1中使MSE相比标准约束MLE（M1）降低了66%，从3.497降至1.166。
• 在模拟实验1中，混合重参数化MLE（M4）进一步将MSE降低至1.569，表明将重参数化与经验似然结合用于协变量约束具有显著优势。
• 在包含多个中介变量的模拟实验3中，混合MLE将MSE从基线约束MLE的2.484降至1.131，显示出在公平性约束下预测准确性的显著提升。
• 该方法实现了公平分布（p*），其中路径特定效应（PSE）被限制在[-0.05, 0.05]范围内，同时KL散度接近无约束模型，表明对数据分布具有强保真度。
• 在模拟实验1中，所提出的混合方法在公平性执行和预测准确性方面均优于所有基线方法，实现了最低的MSE和0.02的公平PSE估计值。