[논문 리뷰] Optimized Data Pre-Processing for Discrimination Prevention

Flávio P. Calmon, Dennis Wei외 2명|arXiv (Cornell University)|2017. 04. 11.

Privacy-Preserving Technologies in Data참고 문헌 20인용 수 40

한 줄 요약

이 논문은 감정, 개인적 데이터 샘플 왜곡을 제한하고 지도 학습에서의 유틸리티를 유지하면서 동시에 차별을 줄이는 볼록 최적화 프레임워크를 제안한다. 확률적 제약 조건을 통해 그룹 형평성, 개인 형평성, 데이터 유틸리티 간의 트레이드오프로 형평성을 공식화함으로써, 실제 데이터 세트(범죄 재범 데이터 포함)에서 일반화 보장을 보장하는 균형 잡힌 형평성을 달성한다.

ABSTRACT

Non-discrimination is a recognized objective in algorithmic decision making. In this paper, we introduce a novel probabilistic formulation of data pre-processing for reducing discrimination. We propose a convex optimization for learning a data transformation with three goals: controlling discrimination, limiting distortion in individual data samples, and preserving utility. We characterize the impact of limited sample size in accomplishing this objective, and apply two instances of the proposed optimization to datasets, including one on real-world criminal recidivism. The results demonstrate that all three criteria can be simultaneously achieved and also reveal interesting patterns of bias in American society.

연구 동기 및 목표

• 그룹 형평성을 제어하는 원칙적인 사전 처리 방법을 개발하여 기계 학습에서 간접적 차별을 해결하기 위해.
• 하류 모델링을 위한 데이터 유틸리티를 유지하면서 개별 데이터 샘플에 대한 왜곡을 최소화하기 위해.
• 형평성, 유틸리티, 개인 형평성을 하나의 공식화로 통합하는 확률적 최적화 프레임워크를 제공하기 위해.
• 제한된 표본 크기가 사전 처리에서 형평성과 유틸리티 트레이드오프에 미치는 영향을 분석하기 위해.
• 범죄 재범 데이터를 포함한 실제 데이터 세트에서 방법을 경험적으로 검증하여 형평성, 유틸리티, 낮은 왜곡을 동시에 달성함을 보여주기 위해.

제안 방법

• 차별 제어, 데이터 유틸리티, 개인적 왜곡을 균형 잡는 볼록 최적화 문제로 사전 처리를 공식화한다.
• KL 발산과 핑스커의 부등식을 사용하여 원본 및 변환된 데이터 분포 간의 통계적 차이를 제한한다.
• 지수족 모델링을 통한 확률적 변환을 도입하며, 라그랑주 승수 α로 Radon-Nikodym 도함수를 매개변수화한다.
• 변환된 확률과 원본 확률의 비율에 제약 조건을 적용하여 각 샘플의 왜곡이 유한하게 유지되도록 한다.
• 집중 불등식(예: Csiszár & Shields의 결과)을 활용하여 형평성과 유틸리티의 일반화에 대한 고확률 경계를 유도한다.
• 조건부 결과 분포의 타겟 형평성에서의 편차에 대한 이론적 경계를 유도하며, 표본 크기가 증가함에 따라 확률적 수렴을 보여준다.

실험 결과

연구 질문

• RQ1 통합된 사전 처리 프레임워크가 동시에 그룹 수준의 차별, 데이터 유틸리티 유지, 개인 수준의 왜곡 제한을 제어할 수 있는가?
• RQ2 제한된 표본 크기가 제안된 최적화 프레임워크에서 형평성과 유틸리티의 일반화에 어떤 영향을 미치는가?
• RQ3 최적화 매개변수와 도출된 형평성-유틸리티-왜곡 트레이드오프 간의 이론적 관계는 무엇인가?
• RQ4 이 방법은 특히 간접적 차별(예: 범죄 재범)이 있는 경우 실제 데이터에서 어떻게 성능을 발휘하는가?
• RQ5 확률적 제약 조건을 통해 그룹 형평성을 달성하면서도 개인 형평성을 유지할 수 있는가?

주요 결과

• 제안된 최적화 프레임워크는 실제 범죄 재범 데이터에서 검증된 바, 차별을 줄이고 데이터 유틸리티를 유지하면서도 개인적 왜곡을 제한하는 데 성공했다.
• 보호 그룹 간 결과 분포가 유사해지도록 보장함으로써, 보호 속성이 직접 사용되지 않더라도 그룹 형평성을 달성한다.
• 높은 확률(1−β)로 변환된 데이터의 조건부 결과 분포가 목표 분포에 가까워지며, 편차는 O(√(log n / n))로 유한하게 제한된다.
• 이 프레임워크는 일반화에 대한 이론적 보장을 제공하며, 표본 크기가 증가함에 따라 형평성과 유틸리티가 높은 확률로 유지됨을 보여준다.
• 경험적 결과는 미국 사회에서 이전에 드러나지 않았던 간접적 편향 패턴을 드러내었으며, 특히 형사 사법 데이터에서 두드러진다.
• 개별 형평성을 각 샘플의 왜곡 제약 조건을 명시적으로 모델링함으로써 이전의 사전 처리 접근법보다 우수한 성능을 발휘한다.