[논문 리뷰] A continuous framework for fairness.

Philipp Hacker, Emil Wiedemann|arXiv (Cornell University)|2017. 12. 21.

Ethics and Social Impacts of AI인용 수 15

한 줄 요약

이 논문은 최적 운반 이론과 바리센터 계산을 활용하여 개인의 공정성과 집단의 공정성 사이를 연속적 인터폴레이션을 가능하게 하는 후처리 방법인 연속적 공정성 알고리즘(CFA$\theta$)을 소개한다. 이는 결정자들이 상황에 맞는 다양한 요구사항, 특히 다중 보호 속성에 기반한 상호작용적 차별을 고려하여 공정성의 트레이드오프를 조정할 수 있도록 한다. 적용 사례로는 대학 입학, 신용 평가 및 보험 분야가 있다.

ABSTRACT

Increasingly, discrimination by algorithms is perceived as a societal and legal problem. As a response, a number of criteria for implementing algorithmic fairness in machine learning have been developed in the literature. This paper proposes the Continuous Fairness Algorithm (CFA$ heta$) which enables a continuous interpolation between different fairness definitions. More specifically, we make three main contributions to the existing literature. First, our approach allows the decision maker to continuously vary between concepts of individual and group fairness. As a consequence, the algorithm enables the decision maker to adopt intermediate worldviews on the degree of discrimination encoded in algorithmic processes, adding nuance to the extreme cases of we're all equal (WAE) and you see is what you get (WYSIWYG) proposed so far in the literature. Second, we use optimal transport theory, and specifically the concept of the barycenter, to maximize decision maker utility under the chosen fairness constraints. Third, the algorithm is able to handle cases of intersectionality, i.e., of multi-dimensional discrimination of certain groups on grounds of several criteria. We discuss three main examples (college admissions; credit application; insurance contracts) and map out the policy implications of our approach. The explicit formalization of the trade-off between individual and group fairness allows this post-processing approach to be tailored to different situational contexts in which one or the other fairness criterion may take precedence.

연구 동기 및 목표

• 알고리즘 차별에 대한 사회적 및 법적 우려를 해결하기 위해 융통성 있는 공정성 프레임워크를 제공하기 위해.
• 이진 공정성 정의를 넘어서 개인의 공정성(WYSIWYG)과 집단의 공정성(WAE) 사이의 연속적 인터폴레이션을 가능하게 하기 위해.
• 다중 보호 속성에 걸쳐 다차원적 차별을 모델링함으로써 상호작용적 공정성(Intersectionality)을 통합하기 위해.
• 최적 운반 이론을 활용해 동적으로 조정 가능한 공정성 제약 조건 하에서 결정자 기대효용을 최대화하기 위해.
• 실제 사례 연구를 통해 정책적으로 유의미한 통찰을 제공하기 위해 대학 입학, 신용 신청 및 보험 계약 분야에서의 응용을 다루기 위해.

제안 방법

• 프레임워크는 최적 운반 이론을 활용해 확률 측도의 바리센터를 계산함으로써 개인의 공정성과 집단의 공정성 사이의 공정한 타협을 표현한다.
• 공정성을 연속적 파라미터 $\theta$로 정의하여 개인의 공정성(WYSIWYG)과 집단의 공정성(WAE) 사이를 인터폴레이션한다.
• 알고리즘은 모델 출력에 후처리 변환을 적용하여 $\theta$에 의해 정의된 공정성 제약 조건을 만족시키며, 가능한 한 기대효용을 유지한다.
• 다중 보호 속성을 동시에 고려하여 바리센터 수식을 확장함으로써 상호작용적 공정성을 다룬다.
• 운반 계획에 대한 볼록 최적화를 통해 공정성 제약 조건 하에서 결정자 기대효용을 최적화한다.
• 기본 모델에 종속되지 않아, 어떤 사전 훈련된 분류기에도 후처리 공정성 조정으로 적용 가능하다.

실험 결과

연구 질문

• RQ1 기계 학습에서의 공정성은 이진 선택이 아닌 개인의 공정성과 집단의 공정성 사이의 연속적 트레이드오프로 어떻게 형식화할 수 있는가?
• RQ2 공정성 파라미터 $\theta$의 변화가 다양한 응용 분야에서 결정 기대효용과 공정성 지표에 어떤 영향을 미치는가?
• RQ3 다중 속성에 기반한 겹치는 편견을 겪는 개인들이 겪는 상호작용적 차별은 효과적으로 모델링하고 완화할 수 있는가?
• RQ4 최적 운반 이론과 바리센터 계산은 통합적이고 연속적인 공정성 프레임워크를 가능하게 하는 데 어떤 역할을 하는가?
• RQ5 연속적 공정성 사용 시 기존의 이산적 공정성 정의와 비교해 정책적 함의는 어떻게 다를까?

주요 결과

• CFA$\theta$ 프레임워크는 개인의 공정성과 집단의 공정성 사이를 부드럽게 인터폴레이션할 수 있어, 결정자들이 맥락적 가치를 반영한 공정성 수준을 선택할 수 있도록 한다.
• 최적 운반 이론과 바리센터 계산을 활용함으로써, 다양한 시나리오에서 공정성 제약 조건을 만족시키면서도 높은 결정 기대효용을 유지한다.
• 이 방법은 상호작용적 차별을 효과적으로 모델링하고 완화하며, 단일 속성 공정성 방법보다 더 세밀한 해결책을 제공한다.
• 대학 입학 분야에서, 이 프레임워크는 예측 정확도를 유지하면서도 차별적 영향을 감소시켰다.
• 신용 및 보험 응용 분야에서, 이 방법은 다양한 공정성 선호에 대해 강건성을 보이며, 다수의 인구 통계적 차원에서 공정성을 유지했다.
• 공정성-기대효용 트레이드오프의 명시적 형식화는 실세계 구현에서 투명하고 맥락 인식 기반의 정책 결정을 가능하게 한다.