[논문 리뷰] Causal Reasoning for Algorithmic Fairness

Joshua R. Loftus, Chris Russell외 2명|arXiv (Cornell University)|2018. 05. 15.

Ethics and Social Impacts of AI참고 문헌 33인용 수 79

한 줄 요약

이 논문은 알고리즘적 의사결정에서 공정함을 정의하고 달성하기 위해 인과 추론을 통합할 것을 주장하고, 기존의 공정성 개념들을 검토하며, 반사실적 공정성(counterfactual fairness)을 포함한 인과성 기반 접근법들을 조사한다.

ABSTRACT

In this work, we argue for the importance of causal reasoning in creating fair algorithms for decision making. We give a review of existing approaches to fairness, describe work in causality necessary for the understanding of causal approaches, argue why causality is necessary for any approach that wishes to be fair, and give a detailed analysis of the many recent approaches to causality-based fairness.

연구 동기 및 목표

• 공정한 의사결정 시스템에서 인과 추론의 필요성을 주장한다
• 기존의 공정성 개념들(equalised odds, calibration, demographic parity, individual fairness)과 그 한계를 검토한다
• 공정성을 위한 인과 도구들(structural causal models, interventions, counterfactuals)을 도입하고 자세히 설명한다
• 최근의 인과성 기반 공정성 접근법들을 조사하고 이들이 counterfactual fairness와 같은 공정성 개념들과 어떻게 결합되는지 살핀다
• 공정한 예측 모델 설계에서 개입과 인과 가정의 역할을 강조한다

제안 방법

• 공정성 정의와 그 통계적 특성의 개요를 제시한다 (equalised odds, calibration, demographic parity, individual fairness)
• 구조적 인과 모델(SCMs) 및 do-연산자를 도입하여 개입과 반사실을 형식화한다
• counterfactual fairness를 정의하고 그것이 일반적인 공정성 개념들과 어떻게 관련되는지 보여준다
• 선택 편향과 인과 그래프가 편향하에서 공정성을 논리적으로 판단하는 데 어떻게 도움이 되는지 논의한다
• 공정성에서의 인과 추론을 분류하는 프레임워크를 제공한다(개인적 대 집단적, 명시적 대 암시적 방정식, 예측 대 설명)
• 최근의 인과성 기반 공정성 접근법을 조사하고 연결한다

실험 결과

연구 질문

• RQ1 고전적 공정성 개념들이 인과 추론과 어떤 관계가 있으며 실제biased 데이터에서 어떤 한계가 있는가?
• RQ2 SCMs, 개입, 반사실을 어떻게 사용하여 공정한 예측을 정의하고 달성할 수 있는가?
• RQ3 counterfactual fairness는 무엇이며 이것이 인구통계적 평등과 같은 개념과 어떻게 관련되는가?
• RQ4 공정성에서 인과 추론을 분류하는 프레임워크는 무엇이며 방법 설계에 어떤 실용적 지침을 제공하는가?
• RQ5 선택 편향과 인과 경로는 알고리즘적 공정성 평가 및 보장에서 어떤 역할을 하는가?

주요 결과

• 다양한 도메인에서 예측 시스템의 편향을 이해하고 완화하는 데 인과성이 필수적이라고 주장된다
• counterfactual fairness는 개인 차원의 평가와 일치하는 구체적인 인과 기준을 공정성에 제공한다
• equalised odds와 calibration과 같은 보정은 일반적으로 특정 조건이 성립하지 않으면 동시에 만족될 수 없다는 점을 강조하며 한계를 지적한다
• 모델의 결정론적 또는 암시적 인과 가정은 공정성을 위해 순수 데이터 기반의 공변량 보정보다 더 정보에 유익할 수 있다
• 개입과 do-operator는 의사결정이 결과에 미치는 영향을 합리적으로 추론하고 공정한 정책을 설계하는 원칙적 방법을 제공한다
• 이 논문은 인과적 공정성 개념을 기존의 비인과적 개념(인구통계적 평등, 개별적 공정성, 같은 확률성)을 연결하여 동등성과 차이점을 밝힌다