[논문 리뷰] Transport-based Counterfactual Models

de Lara, Lucas, González-Sanz, Alberto외 3명|arXiv (Cornell University)|2021. 08. 30.

Ethics and Social Impacts of AI참고 문헌 67인용 수 57

한 줄 요약

논문은 알려진 인과 모델을 최적 수송 결합으로 대체하여 현실적이고 분포 내에서의 카운터팩추얼을 생성하고 공정성 응용을 가능하게 하는 transport 기반 카운터팩추얼 모델을 제시한다.

ABSTRACT

Counterfactual frameworks have grown popular in machine learning for both explaining algorithmic decisions but also defining individual notions of fairness, more intuitive than typical group fairness conditions. However, state-of-the-art models to compute counterfactuals are either unrealistic or unfeasible. In particular, while Pearl's causal inference provides appealing rules to calculate counterfactuals, it relies on a model that is unknown and hard to discover in practice. We address the problem of designing realistic and feasible counterfactuals in the absence of a causal model. We define transport-based counterfactual models as collections of joint probability distributions between observable distributions, and show their connection to causal counterfactuals. More specifically, we argue that optimal-transport theory defines relevant transport-based counterfactual models, as they are numerically feasible, statistically-faithful, and can coincide under some assumptions with causal counterfactual models. Finally, these models make counterfactual approaches to fairness feasible, and we illustrate their practicality and efficiency on fair learning. With this paper, we aim at laying out the theoretical foundations for a new, implementable approach to counterfactual thinking.

연구 동기 및 목표

• 인과 모델이 알려지지 않았거나 학습하기 어려운 경우에 현실적인 카운터팩추얼의 필요성을 동기를 제시한다.
• 관찰 가능한 분포들 사이의 결합에 카운터팩추얼을 연결하는 transport 기반 프레임워크를 도입한다.
• 최적 수송이 실행 가능하고 분포 내 카운터팩추얼을 산출하는 방법을 보이고 그것을 인과 카운터팩추얼과 연관시킨다.
• transport 기반 카운터팩추얼 공정성 기준을 개발하고 이를 공정한 감독 학습에서의 활용을 보여준다.

제안 방법

• 관찰 가능한 분포들 사이의 결합들(커플링)로 카운터팩추얼 모델을 정의한다.
• Pearl의 인과 프레임워크를 검토하고 카운터팩추얼에 대한 통일된 관점으로 질량수송 기초를 도입한다.
• 특정한 가정 하에 최적 수송 매핑(제곱 비용)과 인과 카운터팩추얼 사이의 연결을 확립한다.
• transport 기반 카운터팩추얼을 구조적 카운터팩추얼 커플링으로 공식화하고 이를 do-intervention 프레임워크와 연결한다.
• 공정성에 transport 기반 시점을 적용하여 카운터팩추얼 공정성 기준을 재구성하고 인과성 없는 공정한 분류기 학습 기준을 제안한다.

실험 결과

연구 질문

• RQ1 지식이 없는 인과 모델 없이도 transport 기반 커플링이 카운터팩추얼 진술을 어떻게 재현할 수 있는가?
• RQ2 특정 가정 하에서 최적 수송 매핑이 인과 카운터팩추얼을 회복하는가?
• RQ3 transport 기반 카운터팩추얼을 사용해 공정한 분류기를 정의하고 학습할 수 있는가?
• RQ4 카운터팩추얼 reasoning에서 인과 모델을 transport 기반 대리로 교체하는 것의 실용적 이점과 한계는 무엇인가?

주요 결과

• transport 기반 카운터팩추얼 모델은 인과 카운터팩추얼의 실행 가능하고 분포 내 대안을 제공한다.
• quadratic cost를 가진 최적 수송 매핑은 특정 가정 하에 일부 선형 가법 인과 모델과 동일한 카운터팩추얼 인스턴스를 생성할 수 있다.
• 카운터팩추얼 공정성 기준을 transport 기반 프레임워크에서 재정의할 수 있어 인과성 없는 공정 학습이 가능하다.
• 본 접근법은 실용적인 통계적 보장을 제공하고 공정성 데이터셋에 대한 수치 실험을 지원한다.