[논문 리뷰] Capuchin: Causal Database Repair for Algorithmic Fairness

Babak Salimi, Luke Rodriguez외 2명|arXiv (Cornell University)|2019. 02. 21.

Ethics and Social Impacts of AI참고 문헌 49인용 수 14

한 줄 요약

Capuchin은 알고리즘 편향을 완화하기 위해 인과적 데이터 복구 프레임워크를 제안한다. 이는 보호된 속성이 합리적으로 영향을 미칠 수 있는 허용 가능한 변수를 식별하고, 다가치의 의존성과 최적화 기법(Matrix Factorization, MaxSAT)을 사용하여 훈련 데이터를 복구함으로써 정당한 보장과 함께 공정성을 강화한다. Capuchin은 Adult 및 COMPAS와 같은 실제 데이터셋에서 최신 전처리 방법보다 공정성과 유효성 측면에서 뛰어난 성능을 보였다.

ABSTRACT

Fairness is increasingly recognized as a critical component of machine learning systems. However, it is the underlying data on which these systems are trained that often reflect discrimination, suggesting a database repair problem. Existing treatments of fairness rely on statistical correlations that can be fooled by statistical anomalies, such as Simpson's paradox. Proposals for causality-based definitions of fairness can correctly model some of these situations, but they require specification of the underlying causal models. In this paper, we formalize the situation as a database repair problem, proving sufficient conditions for fair classifiers in terms of admissible variables as opposed to a complete causal model. We show that these conditions correctly capture subtle fairness violations. We then use these conditions as the basis for database repair algorithms that provide provable fairness guarantees about classifiers trained on their training labels. We evaluate our algorithms on real data, demonstrating improvement over the state of the art on multiple fairness metrics proposed in the literature while retaining high utility.

연구 동기 및 목표

• 훈련 데이터에 내재된 역사적 차별이 원인이 되는 기계학습 시스템의 알고리즘 편향을 해결하기 위해.
• Simpson의 역설과 같은 통계적 이상 현상으로 오도될 수 있는 연관성 기반의 공정성 메트릭의 한계를 극복하기 위해.
• 완전한 인과 모델이 필요 없이 인과적 가정에 기반한 데이터베이스 복구 문제로 공정성을 체계화하기 위해.
• 하류의 기계학습 모델에 종속되지 않는 효율적이고 증명 가능한 공정성 보장을 갖춘 데이터 복구 알고리즘을 개발하기 위해.
• 실제 데이터셋에서 예측 유효성 유지와 함께 공정성 메트릭을 향상시키기 위해.

제안 방법

• 보호된 속성이 결과에 합리적으로 영향을 미칠 수 있는 허용 가능한 변수를 사용하여 공정성을 체계화함으로써, 인과적 공정성과 부작위적 상관관계를 구분한다.
• 공정성 조건을 포화된 조건부 독립성으로 번역하고, 이를 데이터베이스 복구를 위해 다가치의 의존성(MVDs)으로 표현한다.
• 두 가지 복구 알고리즘을 개발한다: 하나는 레이블 분포를 근사하기 위한 저랭크 행렬 분해 기반 알고리즘이고, 다른 하나는 MVD 제약 조건을 최소한의 레이블 변경으로 강제하는 MaxSAT 기반 알고리즘이다.
• 수리된 데이터로 분류기를 훈련시켜 보호된 속성의 예측에 대한 직접적인 인과적 영향을 제거한다.
• 공정성 평가를 위해 연관성 기반(예: 인구 통계적 평등, 동일한 오차) 및 인과적 공정성 메트릭을 모두 사용하여 강건성을 검증한다.
• 실제 데이터셋(Adult, COMPAS)에 프레임워크를 적용하여 최신 전처리 방법과 성능을 비교한다.

실험 결과

연구 질문

• RQ1 인과적 구조에 기반함으로써, Simpson의 역설과 같은 문제를 피할 수 있는 방식으로 공정성을 정의할 수 있는가?
• RQ2 완전한 인과 모델이 필요 없이, 허용 가능한 변수에 대한 가정만으로 공정성을 얼마나 효과적으로 강제할 수 있는가?
• RQ3 특히 다가치의 의존성(MVDs)을 활용한 데이터베이스 복구 기법이 훈련 데이터에서 차별적인 인과적 영향을 체계적으로 제거하는 데 사용될 수 있는가?
• RQ4 제안된 복구 알고리즘은 기존의 전처리 방법과 비교해 공정성과 예측 유효성 측면에서 어떻게 성능을 냈는가?
• RQ5 수리된 데이터는 테스트 데이터에 대해 일반화된 공정한 분류기를 도출하는가?

주요 결과

• Capuchin은 binned Adult 및 COMPAS 데이터셋에서 Calmon 및 Feldman의 전처리 방법보다 데이터 유효성 측면에서 뚜렷한 우월성을 보였다.
• binned Adult 데이터에서 Capuchin은 기준 방법보다 공정성 위반(ROD)을 더 효과적으로 줄였고, 정확도를 유지했다.
• 매우 많이 binned된 COMPAS 데이터에서는 Capuchin이 원본 데이터와 비교해 분류기 정확도를 유지하거나 향상시켰지만, 다른 방법들은 정확도를 2% 감소시켰다.
• Capuchin의 MaxSAT 기반 접근법은 데이터 밀도가 낮은 binned 데이터에서 성능이 열악했으며, 데이터 희소성에 민감함을 보였다.
• 일부 기준 방법이 그대로 인구 통계적 평등(DP)을 강제함으로써 다수 집단을 중심으로 새로운 부분 집단 편향이 발생시켰다.
• 프레임워크는 미리 보지 못한 테스트 데이터에 대해 강건성을 보였으며, 다양한 메트릭에서 일관된 공정성 향상을 보였다.