[논문 리뷰] Causal Conceptions of Fairness and their Consequences

Hamed Nilforoshan, Johann Gaebler외 2명|arXiv (Cornell University)|2022. 07. 12.

Ethics and Social Impacts of AI인용 수 8

한 줄 요약

이 논문은 알고리즘적 의사결정에서의 인과적 공정성 개념을 분석하며, 이를 두 가지 가족으로 분류한다: 반사적 불균형을 제약하는 것과 보호되는 특성의 영향을 제한하는 것. 자연스러운 유틸리티 함수 하에서 공정성 제약은 거의 항상 강한 파레토 열등 정책을 초래한다—즉, 공정성을 위반하지 않고도 모든 이해관계자에게 더 좋은 결과를 낳을 수 있다—이를 통해 현재의 인과적 공정성 정의의 형식적 한계를 입증한다.

ABSTRACT

Recent work highlights the role of causality in designing equitable decision-making algorithms. It is not immediately clear, however, how existing causal conceptions of fairness relate to one another, or what the consequences are of using these definitions as design principles. Here, we first assemble and categorize popular causal definitions of algorithmic fairness into two broad families: (1) those that constrain the effects of decisions on counterfactual disparities; and (2) those that constrain the effects of legally protected characteristics, like race and gender, on decisions. We then show, analytically and empirically, that both families of definitions \emph{almost always} -- in a measure theoretic sense -- result in strongly Pareto dominated decision policies, meaning there is an alternative, unconstrained policy favored by every stakeholder with preferences drawn from a large, natural class. For example, in the case of college admissions decisions, policies constrained to satisfy causal fairness definitions would be disfavored by every stakeholder with neutral or positive preferences for both academic preparedness and diversity. Indeed, under a prominent definition of causal fairness, we prove the resulting policies require admitting all students with the same probability, regardless of academic qualifications or group membership. Our results highlight formal limitations and potential adverse consequences of common mathematical notions of causal fairness.

연구 동기 및 목표

• 알고리즘적 의사결정에서의 다양한 인과적 공정성 개념 간의 관계를 명확히 하는 것.
• 인과적 공정성 정의를 설계 원칙으로 사용할 경우의 실제 세계적 영향을 검토하는 것.
• 스테이크홀더의 자연스러운 선호가 유지될 때 공정성 제약이 효율적이거나 열등한 의사결정 정책을 초래하는지 조사하는 것.
• 공정성 제약 정책이 자연스러운 유틸리티 함수 하에서 거의 항상 파레토 열등하다는 것을 공식적으로 입증하는 것.

제안 방법

• 인과적 공정성 정의를 두 가족으로 분류한다: (1) 결정이 반사적 불균형에 미치는 영향을 제약하는 것과 (2) 보호되는 특성의 영향을 제한하는 것.
• 무한차원 정책 공간에서 파레토 열등 정책의 보편성을 분석하기 위해 측도 이론적 보편성 이론을 사용한다.
• 이론적 분석과 실증적 검증을 통해 다양한 유틸리티 함수 하에서 제약된 및 비제약된 의사결정 정책을 비교한다.
• 임계치 정책이 공정성 기준을 만족할 수 없음을 입증하기 위해 베타 분포 이론과 조건부 기대값 이론을 적용한다.
• 절단된 베타 기대값의 편미분을 사용하여 반사적 예측 동일성 조건이 파레토 효율성과 모순이 되는 조건을 유도한다.
• 주요 인과적 공정성 정의 하에서, 유일하게 가능한 정책은 자격이나 집단 소속 여부에 관계없이 모든 지원자를 동일한 확률로 합격시키는 것임을 증명한다.

실험 결과

연구 질문

• RQ1 알고리즘적 의사결정에서 다양한 인과적 공정성 개념은 상호간에 어떻게 관련되어 있는가?
• RQ2 의사결정 정책에 인과적 공정성 제약을 적용할 경우의 실제 세계적 영향은 무엇인가?
• RQ3 스테이크홀더가 성능과 다양성을 모두 중시할 경우, 공정성 제약 정책이 파레토 효율적일 수 있는가?
• RQ4 어떤 조건에서 인과적 공정성 정의가 강한 파레토 열등 정책을 초래하는가?
• RQ5 자연스러운 유틸리티 함수 하에서 인과적 공정성과 최적의 의사결정 간에 본질적인 불일치가 존재하는가?

주요 결과

• 인과적 공정성 제약은 거의 항상 강한 파레토 열등 정책을 초래한다. 즉, 공정성을 위반하지 않고도 모든 이해관계자에게 더 좋은 결과를 낳을 수 있다.
• 대학 입학 맥락에서, 공정성 제약 정책은 비제약 정책에 비해 학위 취득률과 학생 구성의 다양성을 동시에 감소시킬 것이다.
• 반사적 예측 동일성 조건 하에서, 가능한 정책은 학문적 자격이나 집단 소속 여부에 관계없이 모든 지원자를 동일한 확률로 합격시키는 것뿐이다.
• 이론적 분석을 통해, 보호된 특성에 따라 학문 준비도의 분포가 특정 매개변수를 가진 베타 분포를 따를 경우, 반사적 예측 동일성을 만족하는 임계치 정책은 파레토 효율적일 수 없음을 입증한다.
• 측도 이론적 도구를 사용하여 파레토 열등 정책의 보편성을 확립함으로써, 이러한 정책이 드문 것이 아니라 자연스러운 가정 하에서 일반적인 현상임을 보여준다.
• 심지어 공정성이 인과적으로 정의된다고 해도, 그 결과로 도출된 정책은 이해관계자의 유틸리티를 최대화하지 못하며, 이는 실용적 정당성에 대한 도전이 된다.