[논문 리뷰] PC-Fairness: A Unified Framework for Measuring Causality-based Fairness

Yongkai Wu, Lu Zhang외 2명|arXiv (Cornell University)|2019. 10. 20.

Ethics and Social Impacts of AI인용 수 42

한 줄 요약

본 논문은 PC fairness, 통합적이고 경로-특정 반사실 공정성 프레임워크, 및 응답함수 변수에 의해 주도되는 식별 불가능한 인과 시나리오에서 PC fairness를 한정하기 위한 선형 계획법 방법을 제시한다.

ABSTRACT

A recent trend of fair machine learning is to define fairness as causality-based notions which concern the causal connection between protected attributes and decisions. However, one common challenge of all causality-based fairness notions is identifiability, i.e., whether they can be uniquely measured from observational data, which is a critical barrier to applying these notions to real-world situations. In this paper, we develop a framework for measuring different causality-based fairness. We propose a unified definition that covers most of previous causality-based fairness notions, namely the path-specific counterfactual fairness (PC fairness). Based on that, we propose a general method in the form of a constrained optimization problem for bounding the path-specific counterfactual fairness under all unidentifiable situations. Experiments on synthetic and real-world datasets show the correctness and effectiveness of our method.

연구 동기 및 목표

• 기존의 인과성 기반 공정성 개념들을 포괄하는 경로-특정 반사실 공정성(PC fairness)의 통합 정의를 제안한다.
• 모든 인과 효과를 경로-특정 반사실 효과로 표현하여 넓은 적용성을 가능하게 한다.
• 제한된 최적화 접근법을 사용하여 식별 불가능한 상황에서 PC fairness를 한정함으로써 식별가능성을 다룬다.
• 주어진 인과 그래프를 가정하면서 숨겨진 교란 변수와 임의의 데이터 생성 과정을 허용하는 프레임워크를 개발한다.

제안 방법

• 경로-특정 반사실 효과와 PC fairness 형식을 도입한다.
• 모든 무작위를 포착하고 가능한 모델들을 탐색하기 위해 응답-함수 변수로 인과 모형을 매개화한다.
• 관찰 분포와 경로-특정 반사실 양들을 응답-함수 분포의 선형 함수로 표현한다.
• 관찰 제약 조건 하에서 PC fairness 경계선을 최소화하거나 최대화하기 위한 선형 계획 문제를 구성한다.
• 다양한 식별 불가능한 그래프 구조 하에서 제약 최적화 문제를 풀어 PC fairness에 대한 촘촘한 경계값을 제시한다.

실험 결과

연구 질문

• RQ1 PC fairness는 기존의 인과성 기반 공정성 개념들을 어떻게 포섭하고 통일할 수 있는가?
• RQ2 식별 불가능성이 존재하는 상황에서 경로-특정 반사실 공정성을 어떻게 한정할 수 있는가?
• RQ3 응답-함수 기반 매개화가 서로 다른 그래프 구조에 걸쳐 PC fairness에 대해 촘촘하고 해석 가능한 경계값을 제공하는가?
• RQ4 숨겨진 교란 변수와 일반적인 데이터 생성 과정을 편향 없이 프레임워크에서 다룰 수 있는가?

주요 결과

• PC fairness는 대부분의 기존 인과성 기반 공정성 개념을 특수한 경우로 나타낼 수 있다.
• 제약 최적화 접근법은 식별 불가능한 조건에서 경로-특정 반사실 공정성에 대해 촘촘하고 고유한 경계값을 산출한다.
• 응답-함수 변수 형식은 경계값을 도출하기 위해 모든 호환 가능한 인과 모형을 명시적으로 탐색할 수 있게 한다.
• 합성 및 실제 데이터에 대한 실험은 이 방법이 PC fairness를 정확하게 한정하고, 촘촘함 면에서 이전 경계 방법들을 능가할 수 있음을 보인다.
• 숨겨진 교란 변수의 독립성이나 데이터 생성 과정의 선형성을 가정하지 않아도 프레임워크의 유효성이 유지된다.