[論文レビュー] Fairness at Equilibrium in the Labor Market

Lily Hu, Yiling Chen|arXiv (Cornell University)|Jul 5, 2017

Ethics and Social Impacts of AI参考文献 6被引用数 8

ひとこと要約

本稿は、グループベースの公平性を保証する一時的労働市場（TLM）と、個人の公平性を保証する恒久的労働市場（PLM）を備えた二重労働市場モデルを提案する。この干渉により、恒久的な制約なしに、歴史的不平等を是正するパレート優越な均衡が実現され、初期に不利な立場にあったグループに対して、自己持続的な公平性の向上が可能になる。個人と集団のレピュテーションのフィードバックループにより、不利な立場にあったグループの公平性向上が持続可能になる。

ABSTRACT

Recent literature on computational notions of fairness has been broadly divided into two distinct camps, supporting interventions that address either individual-based or group-based fairness. Rather than privilege a single definition, we seek to resolve both within the particular domain of employment discrimination. To this end, we construct a dual labor market model composed of a Temporary Labor Market, in which firm strategies are constrained to ensure group-level fairness, and a Permanent Labor Market, in which individual worker fairness is guaranteed. We show that such restrictions on hiring practices induces an equilibrium that Pareto-dominates those arising from strategies that employ statistical discrimination or a "group-blind" criterion. Individual worker reputations produce externalities for collective reputation, generating a feedback loop termed a "self-fulfilling prophecy." Our model produces its own feedback loop, raising the collective reputation of an initially disadvantaged group via a fairness intervention that need not be permanent. Moreover, we show that, contrary to popular assumption, the asymmetric equilibria resulting from hiring practices that disregard group-fairness may be immovable without targeted intervention. The enduring nature of such equilibria that are both inequitable and Pareto inefficient suggest that fairness interventions are of critical importance in moving the labor market to be more socially just and efficient.

研究の動機と目的

• 動的労働市場に異なる段階を設けることで、アルゴリズムによる採用における個人とグループの公平性の対立を解消すること。
• TLMにおける公平性干渉が、継続的な制約なしにPLMでより効率的かつ公平な結果をもたらすことを示すこと。
• 差別的均衡が不変であるという仮定に挑戦し、的確な干渉によって自己実現的予言の不平等な予言を破壊できることを示すこと。
• 個人的レピュテーションと集団的レピュテーションの間のレピュテーション外部効果が、労働市場における歴史的不利状況を是正するためにどのように活用できるかをモデル化すること。
• 個別の手続き的チェックではなく、歴史的ダイナミクスを考慮した、包括的かつ分野特化型の公平性干渉を提唱すること。

提案手法

• モデルは、企業がグループ間の割合的代表を保証する公平性制約に従わなければならない一時的労働市場（TLM）に、労働市場を分割する。
• 恒久的労働市場（PLM）では、過去のパフォーマンスに基づく個人のレピュテーションを企業が使用して採用意思決定を行う。
• 企業は、観察可能な投資水準とグループ所属に基づき、ベイズ更新を用いて労働者のスキルに関する信念を更新し、異なる事前分布が異なる採用閾値をもたらす。
• モデルはフィードバックループを捉えている：不利なグループにおける投資の低さは、集団的レピュテーションの低下を引き起こし、企業のバイアスを強化するが、TLMの干渉がこれをくつがえす。
• 三つの制度下でのナッシュ均衡を分析する：グループ無視採用、統計的差別、TLMにおける公平性制約採用。
• 主なメカニズムは、TLMにおける公平性が、不利なグループの集団的レピュテーションを向上させ、その結果、レピュテーションの伝播によりPLMにおける個人的結果が改善されることである。

実験結果

リサーチクエスチョン

• RQ1 TLMにおける公平性干渉が、恒久的な制約なしにPLMでパレート優越な均衡を生み出すことができるか？
• RQ2 個人的レピュテーションと集団的レピュテーションの間のレピュテーション外部効果が、異なる採用制度下で長期的な労働市場の結果をどのように形作るか？
• RQ3 的確な、包括的な公平性干渉によって、差別の的自己実現的予言をどれほど破壊できるか？
• RQ4 TLMにおけるグループレベルの公平性を強制することは、個人レベルの公平性やグループ無視採用よりも、全体としての効率性と公平性を高めることに寄与するか？
• RQ5 TLMにおける公平性制約が、その制約が解除された後も、PLMにおける持続的な改善を生み出すことができるか？

主な発見

• TLMにおける公平性干渉は、PLMにおいて、グループ無視採用と統計的差別均衡の両方をパレート優越する均衡を生み出し、すべての企業と労働者がより良い状態になる。
• 公平性制約がTLMでのみ適用されているにもかかわらず、集団的レピュテーションの向上が、PLMにおける不利なグループの投資水準の上昇と、より良い結果をもたらす。
• モデルは、グループ無視採用や統計的差別的採用による非対称均衡が、パレート劣位であり、干渉なしでは脱出が困難であることを示している。
• TLMでグループ無視採用を行う企業は、不利なグループの有効能力閾値を高く設定し、採用が非効率的に低くなり、人的資本の浪費を引き起こす。
• 個人的レピュテーションと集団的レピュテーションの間のフィードバックループにより、公平性干渉の効果が、制約が解除された後も持続可能になる。
• 本稿は、公平性干渉が道徳的に必要不可欠であるだけでなく、経済的にも最適であることを示している。公平性干渉は、より効率的かつ公平な労働市場の結果をもたらす。