[논문 리뷰] Avoiding Discrimination through Causal Reasoning

Niki Kilbertus, Mateo Rojas-Carulla외 4명|arXiv (Cornell University)|2017. 06. 08.

Ethics and Social Impacts of AI참고 문헌 14인용 수 178

한 줄 요약

이 논문은 인과 추론을 통해 머신러닝의 공정성을 재구성하고, resolving 변수와 proxy 변수를 도입하며, 특정 인과 모델 하에서 프록시 및 미해결 차별을 피하기 위한 개입 기반의 기준과 알고리즘을 제안한다.

ABSTRACT

Recent work on fairness in machine learning has focused on various statistical discrimination criteria and how they trade off. Most of these criteria are observational: They depend only on the joint distribution of predictor, protected attribute, features, and outcome. While convenient to work with, observational criteria have severe inherent limitations that prevent them from resolving matters of fairness conclusively. Going beyond observational criteria, we frame the problem of discrimination based on protected attributes in the language of causal reasoning. This viewpoint shifts attention from "What is the right fairness criterion?" to "What do we want to assume about the causal data generating process?" Through the lens of causality, we make several contributions. First, we crisply articulate why and when observational criteria fail, thus formalizing what was before a matter of opinion. Second, our approach exposes previously ignored subtleties and why they are fundamental to the problem. Finally, we put forward natural causal non-discrimination criteria and develop algorithms that satisfy them.

연구 동기 및 목표

• 관찰적 공정성 기준의 한계를 명확히 밝혀 차별의 인과적 기준을 형식화한다.
• 인과 그래프 내에서 보호 속성과 그 프록시를 구분한다.
• 개입에 기반한 자연스러운 인과 기준을 도입하여 차별의 형태를 설명한다.
• 선형 인과 모델에서 프록시 차별을 제거하기 위한 알고리즘을 개발하고 예시를 제시한다.

제안 방법

• 보호 속성, 프록시, 특징, 예측자를 포함하는 데이터 생성 프로세스를 나타내기 위해 인과 그래프와 구조방정식모형을 도입한다.
• 그래프에서 해결 변수와 프록시 변수에 관련하여 미해결 차별과 프록시 차별을 정의한다.
• do-계산을 활용한 프록시 차별의 개입 기반 정의를 제안하고 선형 모델에서 이를 제거하기 위한 조건을 도출한다.
• 비차별 제약을 만족하도록 예측자를 수정하는 절차적 안내(실제 선형 예시 포함)를 제공한다.
• 인구통계적 동등성, 동일적 확률 등 기존의 공정성 개념과의 관계를 논의하고, 개입 기준이 개별적 공정성 개념과 어떻게 연관되는지 보여준다.

실험 결과

연구 질문

• RQ1 관찰적 공정성 기준이 인과적 용어로 특정 차별 시나리오를 구별하지 못하는 이유는 무엇인가?
• RQ2 프록시나 해결 변수에 대한 개입이 예측의 차별을 형식적으로 어떻게 특징 지으며 예방할 수 있는가?
• RQ3 주어진 인과 구조에서 예측기가 프록시 차별이나 미해결 차별을 나타내지 않도록 보장하는 실용적 절차는 무엇인가?
• RQ4 프록시 차별 기준은 다른 공정성 개념 및 개별적 공정성과 어떤 관련이 있는가?

주요 결과

• 관찰적 기준으로는 일반적으로 예측기가 미해결 차별을 나타내는지 여부를 판단할 수 없으며, 베이즈 최적 예측기에도 적용된다.
• 해결 변수와 프록시를 구분하는 인과 프레임워크는 공정한 의사결정의 미묘함을 드러내고, 개입에 기반한 자연스러운 차별 기준을 뒷받침한다.
• 프록시를 개입하고 예측기를 재표현하여 원하지 않는 인과 경로를 제거함으로써 선형 인과 모델에서 프록시 차별을 제거하는 절차가 존재한다.
• 적절한 표현성 가정 하에 예측기가 잠재적 프록시 차별을 가진 특징을 여전히 활용하도록 하면서도 프록시 차별을 제거할 수 있다.
• 미해결 차별은 특정 변수에 접근할 수 없으면 간단한 조정으로 항상 제거될 수 없으며, 순수 관찰적 조정의 한계를 강조한다.