[论文解读] Fairness at Equilibrium in the Labor Market

Lily Hu, Yiling Chen|arXiv (Cornell University)|Jul 5, 2017

Ethics and Social Impacts of AI参考文献 6被引用 8

一句话总结

本文提出了一种双重视力市场模型，其中临时劳动力市场（TLM）通过群体公平性约束实现群体公平，而永久劳动力市场（PLM）则确保个体公平。研究发现，这种干预可诱导出一个帕累托占优的均衡，纠正历史不公，且无需长期约束。个体与集体声誉之间的反馈回路使原本处于劣势的群体能够实现自我维持的公平性提升。

ABSTRACT

Recent literature on computational notions of fairness has been broadly divided into two distinct camps, supporting interventions that address either individual-based or group-based fairness. Rather than privilege a single definition, we seek to resolve both within the particular domain of employment discrimination. To this end, we construct a dual labor market model composed of a Temporary Labor Market, in which firm strategies are constrained to ensure group-level fairness, and a Permanent Labor Market, in which individual worker fairness is guaranteed. We show that such restrictions on hiring practices induces an equilibrium that Pareto-dominates those arising from strategies that employ statistical discrimination or a "group-blind" criterion. Individual worker reputations produce externalities for collective reputation, generating a feedback loop termed a "self-fulfilling prophecy." Our model produces its own feedback loop, raising the collective reputation of an initially disadvantaged group via a fairness intervention that need not be permanent. Moreover, we show that, contrary to popular assumption, the asymmetric equilibria resulting from hiring practices that disregard group-fairness may be immovable without targeted intervention. The enduring nature of such equilibria that are both inequitable and Pareto inefficient suggest that fairness interventions are of critical importance in moving the labor market to be more socially just and efficient.

研究动机与目标

• 通过建模具有不同阶段的动态劳动力市场，解决算法招聘中个体公平与群体公平之间的张力。
• 表明TLM中的公平干预可导致PLM中更高效且更公平的结果，即使不再施加持续约束。
• 挑战歧视性均衡不可逆的假设，证明有针对性的干预可打破不平等的自我实现预言。
• 建模声誉外部性（个体声誉与集体声誉之间）如何被利用以纠正劳动力市场结果中的历史劣势。
• 主张实施涵盖全系统的、领域特定的公平干预，以考虑历史动态，而非孤立的程序性检查。

提出的方法

• 该模型将劳动力市场划分为临时劳动力市场（TLM），在其中企业必须遵循公平约束，以确保各群体之间的代表性比例。
• 在永久劳动力市场（PLM）中，企业使用基于过往表现的个体声誉来做出招聘决策，以确保个体公平。
• 企业通过贝叶斯更新来调整对工人能力的信念，依据可观察到的投资水平和群体成员身份，不同的先验导致不同的招聘门槛。
• 该模型捕捉了反馈回路：对劣势群体投资减少会降低其集体声誉，从而强化企业偏见，而TLM干预则打破了这一循环。
• 在三种制度下分析纳什均衡：群体无差别招聘、统计歧视，以及TLM中的公平约束招聘。
• 其关键机制在于：TLM中的公平性提升了劣势群体的集体声誉，从而通过声誉溢出效应改善了PLM中的个体结果。

实验结果

研究问题

• RQ1 TLM中的公平干预是否能在无需长期约束的情况下，导致PLM中帕累托占优的均衡？
• RQ2 个体与集体声誉之间的声誉外部性如何在不同招聘制度下塑造长期劳动力市场结果？
• RQ3 在多大程度上可以通过有针对性的、全系统范围的公平干预打破歧视的自我实现预言？
• RQ4 在TLM中强制实施群体层面的公平是否比个体层面公平或群体无差别招聘带来更好的整体效率与公平性？
• RQ5 即使在约束被移除后，TLM中的公平约束是否仍能在PLM中持续产生改进？

主要发现

• TLM中的公平干预产生了PLM中帕累托占优的均衡，优于群体无差别招聘和统计歧视均衡，意味着所有企业与工人都处境更优。
• 尽管公平约束仅在TLM中实施，但由此带来的集体声誉提升，使劣势群体在PLM中的投资水平提高，结果更优。
• 该模型表明，由群体无差别或统计歧视招聘导致的非对称均衡是帕累托次优的，且在无干预下难以摆脱。
• 在TLM中采用群体无差别招聘的企业，对劣势群体的有效能力门槛更高，导致招聘效率低下和人才浪费。
• 个体与集体声誉之间的反馈回路使公平干预产生持久影响，即使约束被解除后依然有效。
• 本文证明，公平干预不仅在伦理上必要，而且在经济上最优，因其能带来更高效且更公平的劳动力市场结果。