[논문 리뷰] Fairness at Equilibrium in the Labor Market

Lily Hu, Yiling Chen|arXiv (Cornell University)|2017. 07. 05.

Ethics and Social Impacts of AI참고 문헌 6인용 수 8

한 줄 요약

이 논문은 집단 기반 공정성을 보장하는 일시적 노동시장(TLM)과 개인 기반 공정성을 확보하는 영구적 노동시장(PLM)을 갖춘 이중 노동시장 모델을 제안한다. 이는 역사적 불평등을 수정하면서도 영구적 제약 없이 파레토 우월한 균형을 유도함을 보여준다. 개인과 집단의 명성 간 피드백 루프는 초기에 열악한 위치에 있던 집단의 자율적 공정성 향상을 가능하게 한다.

ABSTRACT

Recent literature on computational notions of fairness has been broadly divided into two distinct camps, supporting interventions that address either individual-based or group-based fairness. Rather than privilege a single definition, we seek to resolve both within the particular domain of employment discrimination. To this end, we construct a dual labor market model composed of a Temporary Labor Market, in which firm strategies are constrained to ensure group-level fairness, and a Permanent Labor Market, in which individual worker fairness is guaranteed. We show that such restrictions on hiring practices induces an equilibrium that Pareto-dominates those arising from strategies that employ statistical discrimination or a "group-blind" criterion. Individual worker reputations produce externalities for collective reputation, generating a feedback loop termed a "self-fulfilling prophecy." Our model produces its own feedback loop, raising the collective reputation of an initially disadvantaged group via a fairness intervention that need not be permanent. Moreover, we show that, contrary to popular assumption, the asymmetric equilibria resulting from hiring practices that disregard group-fairness may be immovable without targeted intervention. The enduring nature of such equilibria that are both inequitable and Pareto inefficient suggest that fairness interventions are of critical importance in moving the labor market to be more socially just and efficient.

연구 동기 및 목표

• 동적 노동시장에서 단계별로 나누어진 모델을 통해 알고리즘 채용에서 개인과 집단의 공정성 간 긴장을 다루는 것.
• TLM에서의 공정성 간섭이 PLM에서 더 효율적이고 공정한 결과를 이끌 수 있음을 보여주되, 지속적인 제약 없이도 가능함을 입증하는 것.
• 차별적 균형이 고정되어 있다는 전제를 도전하며, 타겟된 간섭이 불평등의 자기실현적 예언을 깰 수 있음을 보여주는 것.
• 개인 명성과 집단 명성 간의 명성 외부효과가 역사적 열등성을 시정하는 데 어떻게 활용될 수 있는지 모델링하는 것.
• 고립된 절차적 점검이 아닌 역사를 반영한 분야 특화의 체계적 공정성 간섭을 주장하는 것.

제안 방법

• 모델은 노동시장을 일시적 노동시장(TLM)과 영구적 노동시장(PLM)으로 나누며, TLM에서는 집단 간 비율 대등을 보장하는 공정성 제약을 시행한다.
• PLM에서는 과거 성과에 기반한 개인의 명성을 바탕으로 기업이 채용 결정을 내리며, 개인의 공정성을 보장한다.
• 기업은 관찰 가능한 투자 수준과 집단 소속 정보를 바탕으로 베이지안 업데이트를 통해 노동자 기술에 대한 믿음을 갱신하며, 다른 사전 확률은 다른 채용 기준을 초래한다.
• 모델은 피드백 루프를 반영한다: 열 劣한 집단에 대한 투자 감소는 집단 명성을 떨어뜨리며, 이는 기업의 편견을 강화하지만, TLM 간섭이 이를 깨뜨린다.
• 세 가지 제도 하에서 나시 균형을 분석한다: 집단 무시 채용, 통계적 차별, TLM에서의 공정성 제약 채용.
• 핵심 메커니즘은 TLM에서의 공정성이 열 劣한 집단의 집단 명성을 향상시키며, 이는 명성 전이 효과를 통해 PLM에서 개인의 결과를 개선한다.

실험 결과

연구 질문

• RQ1 TLM에서의 공정성 간섭이 영구적 제약 없이 PLM에서 파레토 우월한 균형을 이끌 수 있는가?
• RQ2 개인 명성과 집단 명성 간의 명성 외부효과가 다양한 채용 제도 하에서 장기적 노동시장 결과에 어떻게 영향을 미치는가?
• RQ3 자기실현적 예언의 차별적 성향을 타겟된 체계적 공정성 간섭을 통해 어느 정도 깰 수 있는가?
• RQ4 TLM에서 집단 수준의 공정성을 강제하면 개인 수준의 공정성 또는 집단 무시 채용보다 더 나은 종합적 효율성과 공정성을 달성할 수 있는가?
• RQ5 TLM에서의 공정성 제약이 제거된 후에도 PLM에서 지속적인 개선을 이끌 수 있는가?

주요 결과

• TLM에서의 공정성 간섭은 그 결과로 파레토 우월한 PLM 균형을 만들어내며, 이는 모든 기업과 노동자가 더 나아진다는 것을 의미한다.
• 공정성 제약이 TLM에서만 적용되지만, 이로 인해 집단 명성이 향상되어 PLM에서 열 劣한 집단의 투자 수준이 높아지고 더 나은 결과를 얻는다.
• 모델은 집단 무시나 통계적 차별 채용에서 유도되는 비대칭 균형이 파레토 열 劣하며, 간섭 없이선 벗어나기 어려운 것을 보여준다.
• TLM에서 집단을 무시하는 기업은 열 劣한 집단에 대해 더 높은 효과적 능력 기준을 요구하게 되어, 비효율적으로 낮은 채용률과 낭비된 인재를 초래한다.
• 개인과 집단 명성 간 피드백 루프 덕분에 공정성 간섭의 영향은 제약이 제거된 후에도 지속된다.
• 논문은 공정성 간섭이 도덕적으로 필수적인 것뿐 아니라 경제적으로도 최적임을 입증하며, 더 효율적이고 공정한 노동시장 결과를 이끈다.