[논문 리뷰] Causal Interventions for Fairness

Matt J. Kusner, Chris Russell외 2명|arXiv (Cornell University)|2018. 06. 06.

Ethics and Social Impacts of AI참고 문헌 25인용 수 13

한 줄 요약

이 논문은 구조적 인과 모델과 간섭을 포함하여 자원 배분(예: 고급 수업 지원 자금) 최적화를 통해 체계적 의사결정에서의 공정성을 향상시키기 위한 인과적 간섭 프레임워크를 제안한다. 역사적으로 불리한 위치에 있는 학교를 우선시하는 공정성 인식 최적화를 통해 뉴욕시 고등학교 데이터에서 공정한 간섭이 자원 배분의 다양성을 높이되 전체 이익을 희생시키지 않는 것으로 입증된다.

ABSTRACT

Most approaches in algorithmic fairness constrain machine learning methods so the resulting predictions satisfy one of several intuitive notions of fairness. While this may help private companies comply with non-discrimination laws or avoid negative publicity, we believe it is often too little, too late. By the time the training data is collected, individuals in disadvantaged groups have already suffered from discrimination and lost opportunities due to factors out of their control. In the present work we focus instead on interventions such as a new public policy, and in particular, how to maximize their positive effects while improving the fairness of the overall system. We use causal methods to model the effects of interventions, allowing for potential interference--each individual's outcome may depend on who else receives the intervention. We demonstrate this with an example of allocating a budget of teaching resources using a dataset of schools in New York City.

연구 동기 및 목표

• 공정 예측에서 공정한 시스템 수준의 간섭으로의 초점을 이동시켜 불평등의 근본 원인을 다루는 것.
• 구조적 인과 모델을 사용하여 공공 정책 간섭의 영향을 모델링하고, 이웃 단위의 결과에 의존하는 경우(간섭)를 포함하는 것.
• 개인의 특권 집단 소속으로 인해 얻는 수혜를 제한하는 공정성 기준을 설계하는 것.
• 예산 제약 조건 하에서 총 이익을 최대화하고 불공정한 이점을 최소화하면서 간섭을 최적화하는 것.
• 뉴욕시 학교의 대학 준비 자원 배분에 대해 실제 데이터를 바탕으로 방법을 시연하는 것.

제안 방법

• 간섭이 포함된 구조적 인과 모델(SCM)을 사용하여 간섭과 그 영향을 표현하며, 한 학교의 결과가 이웃 학교의 간섭에 의존할 수 있음을 고려한다.
• 개인의 보호된 특성(예: 인종)으로 인해 유발되는 수혜의 정도를 정량화하는 역행성 공정성 측도를 정의한다.
• 특권 집단이 간섭으로 인해 얻는 이점의 정도를 제한하는 파라미터 τ를 갖는 공정성 제약 조건을 도입한다.
• 예산 제약 조건(B=25개 학교)을 사용하여 총 이익을 최대화하면서 τ 파라미터를 통해 공정성을 확보하는 제약 최적화 문제를 적용한다.
• GIS 거리 기반의 이웃 효과와 인종별 계수를 갖는 구조 방정식을 사용하여 결과(예: SAT/ACT 응시)를 모델링한다.
• 실제 뉴욕시 학교 데이터(인종, 거리, 간섭 지표 포함)를 기반으로 가우시안 노이즈 가정 하에 최대우도 추정을 통해 모델 파라미터를 적합화한다.

실험 결과

연구 질문

• RQ1 공정 예측에만 의존하지 않고 체계적 결과의 공정성을 향상시키기 위해 어떤 간섭을 설계할 수 있는가?
• RQ2 구조적 불평등으로 인해 교육 제도의 간섭이 특권 집단에 비해 과도하게 유리하게 작용하는 정도는 어느 정도인가?
• RQ3 근접한 학교의 간섭에 의해 영향을 받는 학교의 결과가 발생하는 간섭 효과를 인과적 공정성 프레임워크 내에서 어떻게 모델링할 수 있는가?
• RQ4 자원 배분에서 총 이익을 최대화하고 특권 기반 이점을 최소화하는 데서의 상충 관계는 무엇인가?
• RQ5 공정성 인식 최적화 전략이 교육 자원의 인종적 다양성 증가로 이어질 수 있는가?

주요 결과

• 공정 간섭 모델(τ = 0.046)은 중저소득의 주로 히스패닉계 및 블랙계 학교, 특히 노스 브롱크스와 노스 맨해튼 지역을 우선시하여 자원을 배분했으며, 인종과 무관한 높은 유틸리티를 가진 학교를 우선시했다.
• τ가 증가함에 따라(τ = 0.084), 브롱크스와 퀸즈의 다수 백인 학교로 배분이 이동했으며, 히스패닉 학교의 수는 유사하게 유지되었고 블랙 학교의 배분은 감소했다.
• 불공정 모델(제약 없음)은 모든 25개 간섭을 저소득 브롱크스와 저소득 맨해튼 지역의 다수 백인 학교에 배분하여 대부분의 역사적으로 불리한 위치에 있는 학교를 배제했다.
• 공정 모델이 공정성에 초점을 맞추었음에도 불구하고, τ = 0.046일 때 불공정 모델보다 더 높은 목적 함수 값을 달성하여 공정성이 전체 이익을 감소시키지 않는다는 것을 시사한다.
• 공정 모델의 배분은 맨해튼에서 불공정 모델과 공간적으로 유사한 위치에 있었으며, 이는 공정 간섭이 기존 패턴과 함께 공존할 수 있고 완전한 재구성 없이도 가능하다는 것을 의미한다.
• 이 방법은 인종 외적 요인(지리적 접근성, 자원 격차 등)으로 인해 간섭에서 가장 많이 유리해지는 학교를 성공적으로 식별했으며, 이는 인구통계적 편향이 아닌 비인종적 요인에 기반한다.