[논문 리뷰] Principal Fairness for Human and Algorithmic Decision-Making

Kosuke Imai, Zhichao Jiang|arXiv (Cornell University)|2020. 05. 21.

Ethics and Social Impacts of AI참고 문헌 23인용 수 8

한 줄 요약

이 논문은 인간 및 알고리즘 의사결정에서의 공정성 기준으로서 주된 공정성(principal fairness)을 도입한다. 이는 서로 다른 결정 조건 하에서 동일한 잠재적 결과를 보이는 개인들이 동일하게 대우받도록 보장한다. 원인 인과론에서 유래한 주된 군집화(principal stratification)를 활용하여, 구금 또는 석방 조건 하에서의 행동과 같은 연합 잠재 결과를 기반으로 공정성을 평가함으로써, 기존의 통계적 및 반사적 공정성 정의에 대체로 인과 기반의 접근을 제공한다.

ABSTRACT

Using the concept of principal stratification from the causal inference literature, we introduce a new notion of fairness, called principal fairness, for human and algorithmic decision-making. The key idea is that one should not discriminate among individuals who would be similarly affected by the decision. Unlike the existing statistical definitions of fairness, principal fairness explicitly accounts for the fact that individuals can be impacted by the decision. Furthermore, we explain how principal fairness differs from the existing causality-based fairness criteria. In contrast to the counterfactual fairness criteria, for example, principal fairness considers the effects of decision in question rather than those of protected attributes of interest. We briefly discuss how to approach empirical evaluation and policy learning problems under the proposed principal fairness criterion.

연구 동기 및 목표

• 결정이 결과에 미치는 영향을 고려하여 기존의 통계적 및 반사적 공정성 정의의 한계를 해결하기 위해.
• 관찰된 특성이나 보호 대상 속성 대신, 결정에 의해 개인이 어떻게 영향을 받을지에 기반하여 대우를 평가하는 공정성 기준을 체계화하기 위해.
• 잠재 결과와 주된 군집을 활용하여 인간 및 알고리즘 의사결정의 공정성을 평가할 수 있는 원칙적인 프레임워크를 제공하기 위해.
• 관측 가능한 데이터와 식별 공식을 활용하여 제안된 공정성 기준 하에서 실증적 평가 및 정책 학습을 가능하게 하기 위해.
• 기존의 인과 기반 공정성 기준(예: 반사적 동일한 기회 및 반사적 공정성)과의 차이를 명확히 하기 위해.

제안 방법

• 주된 군집을 결합된 잠재 결과 $ R_i = (Y_i(1), Y_i(0)) $ 로 정의하여, 개인이 치료 조건과 대조 조건에서 각각 어떻게 영향을 받을지 나타낸다.
• 결정에 따라 다른 행동을 보일 수 있는 잠재 결과 $ Y_i(d) $ 를 $ d=0,1 $ 으로 모델링하고, 관측된 결과 $ Y_i = Y_i(D_i) $ 를 사용한다.
• 주된 군집화를 적용하여 개인들을 '안전한'( $ R_i = (0,0) $ ), '예방 가능한'( $ R_i = (0,1) $ ), '위험한'( $ R_i = (1,1) $ ), '반발을 일으키는'( $ R_i = (1,0) $ ) 군집으로 분류한다.
• 관측된 데이터와 추정된 성향 스코어 $ e_r(m{V}_i, A_i) = ext{Pr}(R_i = r mid m{V}_i, A_i) $ 를 사용하여 $ ext{Pr}(D_i=1 mid R_i=r, A_i) $ 의 식별 공식을 유도한다.
• 가중치를 사용한 전체 인구 추정을 통해 각 보호 그룹 내 주된 군집 간의 결정 확률이 동일하도록 강제함으로써 주된 공정성 기준 하에서 정책 학습을 제안한다.
• 주된 공정성과 기존의 공정성 기준 간의 연결 고리를 확립하여, 모든 잠재 결과를 고려함으로써 반사적 동일한 기회를 일반화함을 보여준다.

실험 결과

연구 질문

• RQ1 결정의 인과적 영향을 고려하여 의사결정의 공정성을 어떻게 재정의할 수 있는가?
• RQ2 주된 공정성이 통계적 공정성 및 반사적 공정성과 같은 기존의 공정성 정의와 어떻게 다를 수 있는가?
• RQ3 주된 군집이 관측되지 않을 경우 주된 공정성을 어떻게 실증적으로 평가할 수 있는가?
• RQ4 주된 공정성이 정책 학습 및 알고리즘 추천 시스템에 미치는 영향은 무엇인가?
• RQ5 주된 공정성이 반사적 동일한 기회 평가를 어떻게 향상시키는가?

주요 결과

• 주된 공정성은 서로 다른 결정 조건 하에서 개인의 연합 잠재 결과에 기반하여 공정성을 정의하며, 반응 패tern이 유사한 개인들이 동일하게 대우받도록 보장한다.
• 이 프레임워크는 보호 대상 속성의 영향이 아니라 결정 자체의 영향에 초점을 맞추므로, 반사적 공정성과 차별화된다.
• 관측 가능한 공변량과 추정된 주된 군집 확률을 사용하여 $ ext{Pr}(D_i=1 mid R_i=r, A_i) $ 의 식별 공식을 도출함으로써 실증적 평가가 가능해진다.
• 정리 6는 각 주된 군집과 보호 그룹 내에서 결정 확률이 가중 평균을 통해 추정될 수 있음을 보여주며, 이는 공정성 제약 조건이 있는 정책 학습을 가능하게 한다.
• 주된 공정성은 반사적 동일한 기회를 일반화하여 $ Y_i(0) $ 뿐 아니라 모든 잠재 결과를 고려하므로 더 포괄적인 공정성 평가를 제공한다.
• 주된 공정성 기준 하에서 실증적 평가는 관측된 결과가 아닌 주된 군집 조건에 따라 조정되어야 하므로, 현재의 위험 평가 평가 관행의 한계를 드러낸다.