[논문 리뷰] Learning Optimal Fair Policies

Razieh Nabi, Daniel Malinsky외 1명|arXiv (Cornell University)|2018. 09. 06.

Experimental Behavioral Economics Studies참고 문헌 24인용 수 22

한 줄 요약

이 논문은 민감한 속성(예: 인종, 성별)에 대해 공정한 결정 정책을 학습하기 위한 인과적 추론과 제약 최적화 프레임워크를 제안한다. 이는 결정과 결과 모두에서 공정성을 보장하며, 민감한 특성에서 행동과 결과로의 불공정한 인과적 경로를 공식적으로 제약함으로써, 기대 효용을 최대화하면서도 유도된 결합 분포가 공정성 제약을 만족하도록 보장한다. 이는 데이터 기반 정책 수립에서 '불공정의 고리'를 끊는 데 기여한다.

ABSTRACT

Systematic discriminatory biases present in our society influence the way data is collected and stored, the way variables are defined, and the way scientific findings are put into practice as policy. Automated decision procedures and learning algorithms applied to such data may serve to perpetuate existing injustice or unfairness in our society. In this paper, we consider how to make optimal but fair decisions, which "break the cycle of injustice" by correcting for the unfair dependence of both decisions and outcomes on sensitive features (e.g., variables that correspond to gender, race, disability, or other protected attributes). We use methods from causal inference and constrained optimization to learn optimal policies in a way that addresses multiple potential biases which afflict data analysis in sensitive contexts, extending the approach of (Nabi and Shpitser 2018). Our proposal comes equipped with the theoretical guarantee that the chosen fair policy will induce a joint distribution for new instances that satisfies given fairness constraints. We illustrate our approach with both synthetic data and real criminal justice data.

연구 동기 및 목표

• 민감한 속성(예: 인종 또는 성별)에 기반한 불공정한 결과를 반복하는 데이터 기반 정책 학습에서의 체계적 편향을 해결하기 위해.
• 민감한 특성에서 결정과 결과로 이르는 특정 인과적 경로에 대해 공정성을 제약 조건으로 공식화하기 위해.
• 공정성 제약 조건 하에서 최적의 정책을 학습하면서도 높은 효용과 유도된 결합 분포에서의 공정성에 대한 이론적 보장을 유지하는 방법을 개발하기 위해.
• 합성 데이터와 실세계 형사법 집행 데이터를 바탕으로 히우리스틱 효용 함수를 사용하여 방법의 효과성을 입증하기 위해.
• 공정한 정책 학습이 형사법 집행 시스템에서 인종 간 차이를 줄일 수 있는지 보여주기 위해.

제안 방법

• 민감한 특성이 결정과 결과에 미치는 영향을 구조적 인과 모델을 통해 인과적 추론으로 모델링한다.
• 중간 변수 분석을 적용하여 민감한 속성(S)에서 행동(A)과 결과(Y)로 이르는 직접적 및 간접적 인과적 경로를 식별하고 제약 조건을 적용한다.
• 민감한 특성으로 인한 불공정한 영향을 방지하기 위해 S→A 및 S→Y 경로에 공정성 제약 조건을 부과한다.
• 기대 효용을 최대화하면서도 공정성 제약 조건을 만족하는 정책을 학습하기 위해 제약 최적화를 활용한다.
• Q-학습을 사용하여 파라미터화된 효용 함수 Y = (1−A)(−θR + (1−R)) − A를 활용해 공정성 제약 조건 하에서 기대 효용을 최적화한다.
• 모델 잘못 지정에 대비한 강건성과 이론적 보장을 확보하기 위해 준모수적 추정 기법을 적용한다.

실험 결과

연구 질문

• RQ1 민감한 속성에 대해 공정하면서도 높은 효용을 유지할 수 있는 최적의 정책을 어떻게 학습할 수 있는가?
• RQ2 결정과 결과로 이르는 민감한 특성에서의 어떤 인과적 경로를 제약해야 공정성을 확보할 수 있는가?
• RQ3 공정한 정책이 유도하는 결합 분포가 지정된 공정성 제약 조건을 만족하는지 보장할 수 있는가?
• RQ4 효용 함수의 선택이 실세계 설정에서 공정성과 정책 성능 간의 상호 보완적 관계에 어떤 영향을 미치는가?
• RQ5 공정한 정책 학습을 통해 형사법 집행 시스템에서의 인종 간 차이를 얼마나 줄일 수 있는가?

주요 결과

• 제안된 방법은 공정성 제약 조건을 만족하는 결합 분포를 유도하는 정책을 성공적으로 학습하여, 의사결정에서 '불공정의 고리'를 효과적으로 끊는다.
• θ가 2에서 3 사이일 경우, 관찰된 수준보다 전체 수감률이 낮아지고 인종 간 수감률 격차는 좁아지지만 완전히 제거되지는 않는다.
• θ > 3일 경우, 공정 정책과 비제약 정책 모두 관찰된 수준보다 높은 수감률을 권장하지만, 공정 정책은 여전히 더 좁은 인종 간 격차를 달성한다.
• 공정성 제약 조건 하에서 다양한 효용 파rameter 값에 대해 일관되게 인종 간 수감률 격차를 줄여 공정한 정책 학습이 편향을 완화하는 데 효과적임을 입증한다.
• 실세계 형사법 집행 데이터에서의 성능이 양호하여, 공정성 제약 조건을 정책 품질을 희생시키지 않고도 실용적으로 구현할 수 있음을 보여준다.
• 결과는 효용 함수의 선택이 정책 결과에 상당한 영향을 미치며, 공정성 인식 정책 학습에서 효용 함수의 철저한 설정이 중요함을 강조한다.