[논문 리뷰] Fair Division Without Disparate Impact

Alexander Peysakhovich, Christian Kroer|arXiv (Cornell University)|2019. 06. 06.

Law, Economics, and Judicial Systems참고 문헌 36인용 수 5

한 줄 요약

이 논문은 보호 그룹 간의 차별적 영향을 제거함으로써 할당의 공정성을 강화하기 위해 두 가지 수정된 메커니즘—동일 소득에서의 공정한 균형 (EqEEI)과 동일 소득에서의 경쟁 균형 (CEEqI)—을 제안한다. EqEEI는 선호도의 균형을 깨뜨리는 주요 CEEI 성질(예를 들어, 선호 없음, 파레토 효율성)을 희생하면서 결과의 불균형을 줄이지만, CEEqI는 이러한 성질을 유지하면서도 그룹 간 평균 효용을 균형 있게 유지하며 최소한의 효율성 손실을 초래한다.

ABSTRACT

We consider the problem of dividing items between individuals in a way that is fair both in the sense of distributional fairness and in the sense of not having disparate impact across protected classes. An important existing mechanism for distributionally fair division is competitive equilibrium from equal incomes (CEEI). Unfortunately, CEEI will not, in general, respect disparate impact constraints. We consider two types of disparate impact measures: requiring that allocations be similar across protected classes and requiring that average utility levels be similar across protected classes. We modify the standard CEEI algorithm in two ways: equitable equilibrium from equal incomes, which removes disparate impact in allocations, and competitive equilibrium from equitable incomes which removes disparate impact in attained utility levels. We show analytically that removing disparate impact in outcomes breaks several of CEEI's desirable properties such as envy, regret, Pareto optimality, and incentive compatibility. By contrast, we can remove disparate impact in attained utility levels without affecting these properties. Finally, we experimentally evaluate the tradeoffs between efficiency, equity, and disparate impact in a recommender-system based market.

연구 동기 및 목표

• 보호 그룹에 불리하게 작용할 수 있는 할당에서의 차별적 영향을 해결하기 위해.
• 공정 분할 메커니즘에서 보호 그룹 수준의 공정성 제약 조건이 경쟁 균형에서 등장하는 핵심 성질(예: 선호 없음, 파레토 효율성, 인centive 호환성)에 미치는 영향를 분석하기 위해.
• 결과의 공정성과 효용 수준을 각각 강화하는 두 가지 새로운 메커니즘—EqEEI와 CEEqI—를 개발하고 평가하기 위해.
• MovieLens 데이터를 사용하여 실세계 추천 시스템 환경에서 효율성, 정의, 차별적 영향 간의 상충 관계를 실험적으로 평가하기 위해.
• 기구 설계자들이 할당 시스템에서 분포적 공정성과 그룹 수준의 공정성을 균형 잡는 데 실용적이고 이론적으로 타당한 도구를 제공하기 위해.

제안 방법

• EqEEI는 보호 그룹 간에 통계적으로 구별할 수 없는 할당 분포를 확보하기 위해 최대 평균 차이(MMD) 기반의 커널 두 표본 검정을 사용하여 개인의 평가를 사전 처리한다.
• EqEEI에서 유도된 수정된 평가가 표준 CEEI 알고리즘에 입력되어 결과 불균형이 감소한 시장 균형 할당을 계산한다.
• CEEqI는 보호 그룹의 개인들이 평균 효용 수준을 균형 있게 만들도록 예산을 조정하여 CEEI 프레임워크를 수정함으로써, 시장 균형의 구조를 유지한다.
• 이 방법은 경쟁 균형의 이론적 성질을 활용하여 파레토 효율성, 후회 없음, 선호 없음을 유지하는 예산 조정 전략을 사용한다.
• 성능 평가에 있어 시뮬레이션된 시장(영화 추천 데이터인 MovieLens에서 유도)을 사용하며, 후회, 선호, 파레토 갭, 기하 평균 갭, 효율성 갭 등의 지표를 사용한다.
• 이론적 분석은 Kroer 등(2019)의 시장 추상화 결과를 활용하여 EqEEI의 성능 손실를 한계화하며, CEEqI가 핵심 CEEI 성질을 유지함을 입증한다.

실험 결과

연구 질문

• RQ1 CEEI 메커니즘을 수정하여 보호 그룹 간 할당 결과의 차별적 영향을 제거하면서도 핵심 시장 균형 성질을 유지할 수 있는가?
• RQ2 공정 분할 메커니즘에서 결과의 공정성과 핵심 효율성 및 인센티브 호환성 성질 간의 상충 관계는 무엇인가?
• RQ3 파레토 효율성, 선호 없음, 또는 인센티브 호환성을 훼손하지 않고도 효용 수준에서 그룹 수준의 공정성을 달성할 수 있는가?
• RQ4 제안된 메커니즘인 EqEEI와 CEEqI는 실세계 데이터 기반 평가에서 효율성과 정의성 측면에서 어떻게 성능을 발휘하는가?
• RQ5 CEEI 유사 프레임워크 내에서 예산 조정을 통해 평균 효용을 그룹 간 균형 있게 만들 수 있는 정도는 어느 정도이며, 사회 복지 손실를 최소화할 수 있는가?

주요 결과

• EqEEI는 MMD 기반 통계적 검정을 사용하여 평가를 사전 처리함으로써 보호 그룹 간 할당 분포가 유사하도록 하여 결과 불균형을 줄인다.
• EqEEI는 측정 가능한 손실을 유발한다: 후회는 10% 증가하고, 선호도는 8% 증가하며, 효율성은 6% 감소한다(효율성 갭 = 0.94)로 나타나 핵심 CEEI 성질과의 상충 관계가 있음을 시사한다.
• CEEqI는 파레토 효율성, 후회 없음, 선호 없음, 인센티브 호환성 등 모든 핵심 CEEI 성질을 유지하면서도 그룹 간 평균 효용을 균형 있게 만든다.
• 25%의 효용 불균형 상황에서 실험한 결과, CEEqI는 단지 기하 평균 효용의 2–3% 손실만으로도 그룹 수준의 불균형을 줄였다. 이는 매우 낮은 효율성 비용을 의미한다.
• CEEqI에서는 고도의 불균형 조건에서도 기하 평균 갭이 0.98를 초과 유지되어 전체 효율성의 강력한 유지가 이루어졌음을 나타낸다.
• 이 연구는 효용 수준의 공정성 강화(CEEqI를 통한)가 결과의 공정성 강화(EqEEI를 통한)보다 더 지속 가능하다는 것을 보여주며, 후자는 바람직한 기구 성질을 유지한다.