[논문 리뷰] A causal framework for discovering and removing direct and indirect discrimination

Lu Zhang, Yongkai Wu외 1명|arXiv (Cornell University)|2016. 11. 22.

Imbalanced Data Classification Techniques참고 문헌 22인용 수 11

한 줄 요약

이 논문은 방향성 비순환 그래프(DAG) 내 경로별 영향력에 기반해 직접 및 간접 차별을 경로별 영향력으로 모델링하는 인과적 프레임워크를 제안한다. 이를 통해 역사를 기반으로 한 데이터에서 두 유형의 차별을 정밀하게 탐지하고 제거할 수 있다. 경로별 영향력과 새로운 알고리즘(PSE-DR)을 활용함으로써, 후속 예측 모델이 직접 및 간접 차별 없이 학습되며, 데이터 유용성은 유지된다.

ABSTRACT

Anti-discrimination is an increasingly important task in data science. In this paper, we investigate the problem of discovering both direct and indirect discrimination from the historical data, and removing the discriminatory effects before the data is used for predictive analysis (e.g., building classifiers). We make use of the causal network to capture the causal structure of the data. Then we model direct and indirect discrimination as the path-specific effects, which explicitly distinguish the two types of discrimination as the causal effects transmitted along different paths in the network. Based on that, we propose an effective algorithm for discovering direct and indirect discrimination, as well as an algorithm for precisely removing both types of discrimination while retaining good data utility. Different from previous works, our approaches can ensure that the predictive models built from the modified data will not incur discrimination in decision making. Experiments using real datasets show the effectiveness of our approaches.

연구 동기 및 목표

• 기존 방법이 직접, 간접, 설명 가능한 영향력을 혼동하는 한계를 해결하기 위해.
• 인과적 경로별 영향력을 활용해 직접 및 간접 차별을 명시적으로 구분하는 방법을 개발하기 위해.
• 수정된 데이터로 학습된 예측 모델이 직접 및 간접 차별 없이 작동하도록 보장하기 위해.
• 차별 제거 과정에서 데이터 유용성을 유지하여 과도한 정보 손실을 방지하기 위해.

제안 방법

• 노드가 변수를, 간선이 인과적 관계를 나타내는 방향성 비순환 그래프(DAG)를 사용해 데이터의 인과적 구조를 모델링한다.
• 보호된 특성에서 결정에 이르는 직접 경로를 따라 발생하는 경로별 영향력을 직접 차별로 정의한다.
• 보호된 특성에서 결정에 이르는 경로 중 정당화되지 않은 특성을 거치는 경로별 영향력을 간접 차별로 정의한다.
• 경로별 영향력 수식을 사용해 관찰 데이터에서 차별을 추정하고, 총 영향력을 직접, 간접, 설명 가능한 성분으로 분해한다.
• 관찰 데이터를 기반으로 경로별 영향력을 추정함으로써 직접 및 간접 차별을 탐지하는 PSE-DD 알고리즘을 제안한다.
• 경로별 영향력 기반의 반사적 조정을 사용해 데이터를 수정함으로써 직접 및 간접 차별을 제거하면서도 유용성을 유지하는 PSE-DR 알고리즘을 제안한다.

실험 결과

연구 질문

• RQ1 인과 모델을 사용해 직접 및 간접 차별을 공식적으로 구분하고 측정할 수 있는가?
• RQ2 인과 네트워크 내 경로별 영향력이 직접 및 간접 차별을 정확히 포착하고 측정할 수 있는가?
• RQ3 예측 유용성을 유지하면서 직접 및 간접 차별을 모두 제거할 수 있는 데이터 수정 전략을 설계할 수 있는가?
• RQ4 제안된 방법이 후속 예측 모델이 두 유형의 차별 없이 작동하도록 보장하는가?

주요 결과

• PSE-DR 알고리즘은 훈련 데이터에서 직접 및 간접 차별을 성공적으로 제거하여 예측에서 차별 효과가 0이 되도록 했다.
• 실험 결과, PSE-DR는 훈련 데이터에서 직접 차별 효과 0.013, 간접 차별 효과 0.049를 기록했으며, 임계값 0.05 이하로 매우 낮았다.
• PSE-DR는 높은 데이터 유용성을 유지했으며, χ² 값이 1.620×10⁴로, DI 방법의 7.031×10⁴보다 훨씬 낮아 정보 손실가 적음을 시사했다.
• PSE-DR 처리된 데이터로 학습된 예측 모델은 SVM 및 의사결정트리 분류기 모두에서 유의미한 차별이 없었으며, 직접 및 간접 영향력이 모두 0.05 이하였다.
• 반면, DI 알고리즘은 훈련 데이터에서 차별을 제거했음에도 불구하고, SVM에서 0.167, DTree에서 0.168의 간접 차별을 유발하여 비차별성 기준을 위반했다.
• PSE-DR는 높은 예측 정확도(80.54% for SVM, 80.55% for DTree)를 달성하여, 비차별성과 모델 성능이 공존할 수 있음을 입증했다.