[论文解读] Fair Division Without Disparate Impact

Alexander Peysakhovich, Christian Kroer|arXiv (Cornell University)|Jun 6, 2019

Law, Economics, and Judicial Systems参考文献 36被引用 5

一句话总结

本文提出了两种改进机制——基于平等收入的公平均衡（EqEEI）与基于公平收入的竞争均衡（CEEqI），通过消除受保护群体之间的差异影响，实现物品分配中的公平性。尽管EqEEI在牺牲关键CEEI属性（如无 envy 和帕累托效率）的前提下减少了结果差异，但CEEqI在保持这些属性的同时，实现了群体间平均效用的均等化，且效率损失最小。

ABSTRACT

We consider the problem of dividing items between individuals in a way that is fair both in the sense of distributional fairness and in the sense of not having disparate impact across protected classes. An important existing mechanism for distributionally fair division is competitive equilibrium from equal incomes (CEEI). Unfortunately, CEEI will not, in general, respect disparate impact constraints. We consider two types of disparate impact measures: requiring that allocations be similar across protected classes and requiring that average utility levels be similar across protected classes. We modify the standard CEEI algorithm in two ways: equitable equilibrium from equal incomes, which removes disparate impact in allocations, and competitive equilibrium from equitable incomes which removes disparate impact in attained utility levels. We show analytically that removing disparate impact in outcomes breaks several of CEEI's desirable properties such as envy, regret, Pareto optimality, and incentive compatibility. By contrast, we can remove disparate impact in attained utility levels without affecting these properties. Finally, we experimentally evaluate the tradeoffs between efficiency, equity, and disparate impact in a recommender-system based market.

研究动机与目标

• 为解决公平分配机制中的差异影响问题，特别是在可能对受保护群体造成不利影响的分配中。
• 分析强制实施群体层面公平约束对基于平等收入的竞争均衡（CEEI）核心属性（如无 envy、帕累托效率和激励相容性）的影响。
• 开发并评估两种新机制——EqEEI与CEEqI，分别用于强制实现结果公平与效用水平公平。
• 通过使用MovieLens数据在真实世界推荐系统环境中实验评估效率、公平性与差异影响之间的权衡。
• 为机制设计者提供一种实用且理论坚实的方法，以在分配系统中平衡分配公平性与群体层面公平性。

提出的方法

• EqEEI 使用基于最大均值差异（MMD）的核两样本检验对个体估值进行预处理，以确保受保护类别间的分配分布在统计上无法区分。
• 将EqEEI生成的调整后估值输入标准CEEI算法，以计算结果差异较小的市场均衡分配。
• CEEqI通过调整受保护群体中个体的预算，使各群体间平均效用水平相等，同时保持市场均衡结构。
• 该方法采用预算调整策略，通过利用竞争均衡的理论特性，维持帕累托效率、无遗憾和无 envy 性质。
• 该方法使用从MovieLens数据派生的合成市场进行评估，指标包括遗憾、嫉妒、帕累托差距、几何平均差距和效率差距。
• 理论分析基于市场抽象结果（Kroer et al., 2019）对EqEEI的性能损失进行边界约束，而CEEqI被证明保留了CEEI的核心属性。

实验结果

研究问题

• RQ1 我们能否修改CEEI机制，在不牺牲核心市场均衡属性的前提下，消除受保护群体间分配结果的差异影响？
• RQ2 在公平分配机制中，结果公平性与基本效率及激励相容性属性之间的权衡是什么？
• RQ3 我们能否在不损害帕累托效率、无 envy 或激励相容性的情况下，实现效用水平的群体公平？
• RQ4 在真实世界数据上评估时，所提出的机制——EqEEI与CEEqI——在效率与公平性方面的表现如何？
• RQ5 在类似CEEI的框架中，预算调整能在多大程度上使各群体间平均效用相等，同时将社会福利损失最小化？

主要发现

• EqEEI通过基于MMD的统计检验对估值进行预处理，确保不同群体间的分配分布相似，从而减少受保护群体间的结果差异。
• EqEEI导致可衡量的损失：遗憾增加10%，嫉妒增加8%，效率下降6%（效率差距 = 0.94），表明其与核心CEEI属性存在权衡。
• CEEqI在保持所有关键CEEI属性（帕累托效率、无遗憾、无嫉妒和激励相容性）的同时，实现了群体间平均效用的均等化。
• 在25%效用不平衡的实验中，CEEqI仅造成几何平均效用2–3%的损失，即显著降低了效率成本。
• 即使在高不平衡情况下，CEEqI的几何平均差距仍保持在0.98以上，表明整体效率得到良好保持。
• 研究表明，通过CEEqI实现效用水平的公平性比通过EqEEI实现结果公平性更具可持续性，因为前者保留了理想的机制属性。