[论文解读] Provably Fair Representations

Daniel McNamara, Cheng Soon Ong+1 more|arXiv (Cornell University)|Oct 12, 2017

Ethics and Social Impacts of AI参考文献 16被引用 34

一句话总结

本文提出了一种可证明公平的表示学习框架，通过数据预处理方法确保群体公平性、个体公平性以及目标任务的实用性。通过学习一个去除敏感信息但保留预测实用性的表示函数，该方法为治理模型中数据生产者、使用者和监管者分离的场景提供了理论保证和不信任成本的边界。

ABSTRACT

Machine learning systems are increasingly used to make decisions about people's lives, such as whether to give someone a loan or whether to interview someone for a job. This has led to considerable interest in making such machine learning systems fair. One approach is to transform the input data used by the algorithm. This can be achieved by passing each input data point through a representation function prior to its use in training or testing. Techniques for learning such representation functions from data have been successful empirically, but typically lack theoretical fairness guarantees. We show that it is possible to prove that a representation function is fair according to common measures of both group and individual fairness, as well as useful with respect to a target task. These provable properties can be used in a governance model involving a data producer, a data user and a data regulator, where there is a separation of concerns between fairness and target task utility to ensure transparency and prevent perverse incentives. We formally define the 'cost of mistrust' of using this model compared to the setting where there is a single trusted party, and provide bounds on this cost in particular cases. We present a practical approach to learning fair representation functions and apply it to financial and criminal justice datasets. We evaluate the fairness and utility of these representation functions using measures motivated by our theoretical results.

研究动机与目标

• 通过确保公平性而不损害预测实用性，解决机器学习系统在对个人（如贷款审批或招聘）做决策时的公平性问题。
• 形式化一个将数据生产者、使用者和监管者分离的治理模型，以减少扭曲激励并增强透明度。
• 为从数据中学习的表示函数提供群体公平性、个体公平性和目标实用性的理论保证。
• 量化‘不信任成本’——即由于将公平性与实用性分离而导致的性能下降——相对于可完全访问敏感变量的可信设置。
• 开发一种可实际应用的公平表示学习方法，并在金融和刑事司法数据集上进行验证。

提出的方法

• 该方法使用一个表示函数 f(x)，将输入特征 X 映射到一个清理后的表示 X_f，去除敏感信息 S 的同时保留对目标 Y 的预测能力。
• 它引入了一个正式框架，通过统计独立性（SP）和等机会（EO）证明群体公平性，通过输入扰动下的不变性度量（IU）证明个体公平性。
• 利用利普希茨连续性和条件独立性假设推导出理论边界，表明公平性与实用性的权衡是可量化的。
• 提出一种实用的学习算法，同时优化公平性与实用性，并对不信任成本提供理论保证。
• 该框架使用风险分解：R_Y(Ŷ_f) = R_Y(Ŷ) + E[d(x, f(x))] × (l_Y + λl_S)，将表示误差与实用损失联系起来。
• 理论结果通过全概率公式、贝叶斯规则和三角不等式推导，用于边界化公平性与实用性度量。

实验结果

研究问题

• RQ1 能否在统计独立性（SP）和等机会（EO）等群体公平性度量下，证明一个表示函数是可证明公平的？
• RQ2 该表示函数在多大程度上保留了个体公平性，即相似输入获得相似决策？
• RQ3 由于将公平性与实用性问题分离，目标任务（如预测贷款违约）的实用性能损失有多大？
• RQ4 当数据使用者无法访问敏感变量时，与可信设置相比，不信任的理论成本是多少？
• RQ5 能否设计一种实用算法，以可证明的公平性和实用性保证学习公平表示？

主要发现

• 本文证明，表示函数 f(x) 可通过减少敏感群体间决策率差异，改善群体公平性，该结果以 SP 和 DI 为度量。
• 个体公平性在表示函数下得以保留，其决策不变性受到约束：IU_D,d_ε(Ŷ_f, X) ≤ 2δ，确保相似输入获得相似决策。
• 公平性的实用成本由 E[d(x, f(x))] × (l_Y + λl_S) 边界化，表明表示误差直接影响目标任务性能。
• 不信任成本——即因将公平性与实用性分离而导致的性能损失——是边界化且可量化的，尤其当原始模型 Ŷ* 具有个体公平性时更为显著。
• 在金融和刑事司法数据集上的实证评估表明，该方法在最小实用性能损失下实现了高公平性，验证了理论边界。
• 理论分析表明，当原始模型 Ŷ* 具有个体公平性时，基于表示的模型 Ŷ_f 会继承该特性，最多受扰动边界 ε 的影响。