[논문 리뷰] Learning to be Fair: A Consequentialist Approach to Equitable Decision-Making

Alex Chohlas-Wood, Madison Coots외 3명|arXiv (Cornell University)|2021. 09. 18.

Advanced Causal Inference Techniques인용 수 8

한 줄 요약

이 논문은 공정성 지표(예: 지출 평등성)와 결과(예: 법정 출석률) 간의 트레이드오프를 고려하지 않고 이해관계자 선호도를 우선시하는 결과주의적 프레임워크를 제안한다. 이는 데이터에서 최적의 정책을 학습하기 위해 맥락 기반 밴딧 알고리즘과 볼록 최적화를 사용하며, 축상적 공정성 제약보다 우수한 성능을 보이며 예산 제약 하에 효율적이고 유틸리티 최적화 정책 학습을 가능하게 한다.

ABSTRACT

In an attempt to make algorithms fair, the machine learning literature has largely focused on equalizing decisions, outcomes, or error rates across race or gender groups. To illustrate, consider a hypothetical government rideshare program that provides transportation assistance to low-income people with upcoming court dates. Following this literature, one might allocate rides to those with the highest estimated treatment effect per dollar, while constraining spending to be equal across race groups. That approach, however, ignores the downstream consequences of such constraints, and, as a result, can induce unexpected harms. For instance, if one demographic group lives farther from court, enforcing equal spending would necessarily mean fewer total rides provided, and potentially more people penalized for missing court. Here we present an alternative framework for designing equitable algorithms that foregrounds the consequences of decisions. In our approach, one first elicits stakeholder preferences over the space of possible decisions and the resulting outcomes--such as preferences for balancing spending parity against court appearance rates. We then optimize over the space of decision policies, making trade-offs in a way that maximizes the elicited utility. To do so, we develop an algorithm for efficiently learning these optimal policies from data for a large family of expressive utility functions. In particular, we use a contextual bandit algorithm to explore the space of policies while solving a convex optimization problem at each step to estimate the best policy based on the available information. This consequentialist paradigm facilitates a more holistic approach to equitable decision-making.

연구 동기 및 목표

• 축상적 공정성 제약(예: 인당 지출 평등성)이 의도치 않게 전체 효과성을 감소시키고 소외된 집단에 악영향을 미칠 수 있는 한계를 해결하기 위해.
• 실제 세계의 공정성 지표와 결과 효과성 간의 트레이드오프를 이해관계자 선호도를 통해 모델링하는 프레임워크를 개발하기 위해.
• 맥락 기반 밴딧과 볼록 최적화의 통합을 통해 동적이고 데이터가 제한된 환경에서 최적의 의사결정 정책을 효율적으로 학습하기 위해.
• 실제 시뮬레이션을 통해 결과주의적 정책 학습이 전통적 공정성 제약 및 탐욕적 기반 방법보다 우수한 성능을 보임을 입증하기 위해.
• 복잡하고 다차원적인 이해관계자 가치를 반영하는 실용적이고 확장 가능한 공정 알고리즘 설계 방법을 제공하기 위해.

제안 방법

• 설문조사나 쌍대 비교를 통해 이해관계자들이 공정성(예: 인종 집단 간 지출 평등성)과 결과 효과성(예: 법정 출석률) 간의 트레이드오프에 대한 선호도를 확보한다.
• 다양한 표현력 있는 유틸리티 함수의 커다란 가족 내에서 정책 최적화 문제를 유틸리티 최적화 문제로 공식화한다.
• 예산 제약을 유지하면서 정책 공간을 탐색하고 잠재적 결과에 대한 신뢰도를 업데이트하기 위해 맥락 기반 밴딧 프레임워크를 사용한다.
• 각 단계에서 현재의 불확실성 하에 기대 유틸리티가 가장 높은 정책을 추정하기 위해 볼록 최적화 문제(특히 선형 프로그래밍)를 해결한다.
• 탐색과 이용의 균형을 이루기 위해 상한 신뢰도(Upper Confidence Bound, UCB) 기반 전략을 사용하며, 결과 영향에 대한 낙관적인 추정치를 활용한다.
• 실제 롤아웃 환경에서 피드백이 지연되는 상황을 대비해 중간 결과물 또는 대체 지표(예: 약속 확인)를 통합하여 처리한다.

실험 결과

연구 질문

• RQ1 등급 인구 지출 평등성 등의 축상적 공정성 제약이 실제 정책 환경에서 전체 프로그램의 효과성에 어떤 영향을 미치는가?
• RQ2 공정성-결과 효과성 트레이드오프에 대한 이해관계자 선호도는 얼마나 정확하게 확보되고 알고리즘 의사결정에 구현될 수 있는가?
• RQ3 예산 제약 하에서 유틸리티 최적화를 목표로 하는 결과주의적 접근이 공정성과 결과 효과성 측면에서 기존의 공정성 제약을 초월할 수 있는가?
• RQ4 역사적 결과가 지연되거나 부분적으로 관찰되는 상황에서 데이터로부터 최적의 의사결정 정책을 어떻게 효율적으로 학습할 수 있는가?
• RQ5 제안된 학습 알고리즘은 동적이고 실제 정책 환경에서 샘플 복잡도와 수렴 성질이 어떻게 되는가?

주요 결과

• 결과주의 프레임워크는 등급 간 지출 평등성과 같은 축상적 공정성 제약보다 뛰어나며, 전체 서비스 제공량의 뜻하지 않은 감소를 방지함으로써 우수한 성능을 보였다.
• 산타클라라 카운티의 실제 고객 데이터를 사용한 시뮬레이션에서, 제안된 방법은 기존 기반 방법 대비 더 높은 법정 출석률을 달성하면서도 지출 평등성을 유지했다.
• 선형 프로그래밍 최적화를 통한 UCB 기반 학습 알고리즘이 실증 평가에서 무작위 배정 및 탐욕적 정책 학습보다 뛰어난 성능을 보였다.
• 중간 대체 지표(예: 약속 확인)를 활용하여 지연된 결과를 효과적으로 처리함으로써 정책 업데이트를 안내하는 데 성공했다.
• 샘플 복잡도 한계를 유도하여, 미약한 규칙성 조건 하에 알고리즘이 높은 확률로 근사 최적의 정책으로 수렴함을 보였다.
• 설문 조사 결과, 이해관계자들은 더 큰 지출 공정성을 확보하기 위해 법정 출석률의 일부 감소를 감수할 의향이 있음을 확인하였으며, 이는 유틸리티 기반 선호도 확보 접근법의 타당성을 뒷받침했다.