[논문 리뷰] Debiasing representations by removing unwanted variation due to protected attributes

Amanda Bower, Laura Niss외 2명|arXiv (Cornell University)|2018. 07. 02.

Explainable Artificial Intelligence (XAI)참고 문헌 10인용 수 6

한 줄 요약

이 논문은 인종과 같은 보호 대상 속성에 의한 불필요한 변동성을 제거함으로써 기계 학습 표현의 편향을 제거하기 위한 회귀 기반 전처리 방법을 제안한다. 유전체학에서의 RUV 프레임워크를 영감으로 삼은 행렬 변수 요인 모델을 사용하여, 일차 조건부 평등성을 달성하며, 정확도 손실을 최소화하면서도 재범 위험 점수에서 인종 격차를 크게 감소시킨다.

ABSTRACT

We propose a regression-based approach to removing implicit biases in representations. On tasks where the protected attribute is observed, the method is statistically more efficient than known approaches. Further, we show that this approach leads to debiased representations that satisfy a first order approximation of conditional parity. Finally, we demonstrate the efficacy of the proposed approach by reducing racial bias in recidivism risk scores.

연구 동기 및 목표

• 기본적인 기계 학습 표현에서의 알고리즘 편향, 특히 형사 사법 위험 평가에서의 편향을 다루기.
• 재범 예측에서 인종 집단 간 임의의 양성 및 음성 결과의 격차를 줄이기.
• 하류 모델의 재학습이 필요 없이 보호 대상 속성(예: 인종)에 의한 불필요한 변동성을 제거하는 전처리 방법 개발.
• 편향 제거된 표현이 조건부 평등성의 일차 근사치라는 공정성 기준을 만족하도록 보장하기.
• 실제 데이터, 특히 ProPublica COMPAS 데이터셋을 통해 방법의 유효성 입증하기.

제안 방법

• Y = XA^T + ZB^T + E 형태의 행렬 변수 요인 모델을 사용하여 표현을 모델링하며, 여기서 X는 보호 대상 속성(예: 인종), Z는 허용 가능한 속성, E는 오차 항이다.
• Z와 X 사이에 선형 관계 Z = XΓ^T + W 가 성립한다고 가정함으로써 X와 Z 간의 혼동을 허용한다.
• 통제 변수(Z)가 관측되지 않았지만 잠재 요인을 통해 모델링된다고 가정하여, Y에 대한 X의 계수 행렬 A를 추정한다.
• 수정된 RUV 접근법을 사용하여, Z에 조건부로 보호 대상 속성 X가 Y에 미치는 영향을 제거함으로써 표현을 편향 제거한다.
• Y_db = Y - XÂ 형태의 편향 제거 변환을 적용하여 조건부로 상관이 없는 표현을 생성한다. 여기서 Â는 X가 Y를 예측할 때의 추정 계수이다.
• 재범을 예측하기 위해 편향 제거된 특징에 대해 로지스틱 회귀를 적용하고, 편향 제거 이전과 이후의 공정성 지표를 비교하여 방법을 검증한다.

실험 결과

연구 질문

• RQ1 보호 대상 속성에 의한 변동성을 제거하는 회귀 기반 전처리 방법이 예측 성능을 희생시키지 않고도 재범 위험 점수에서 인종 편향을 효과적으로 줄일 수 있는가?
• RQ2 보호 대상 속성에 의한 변동성을 제거함으로써, 공정성 지표에서 조건부 평등성을 만족하는 표현이 도출되는가?
• RQ3 통계적 효율성과 공정성 향상 측면에서 기존의 편향 제거 방법과 비교해 볼 때, 제안된 방법은 어떠한가?
• RQ4 이 방법은 아프리카계와 유럽계 피고객 간의 임의의 양성 및 음성 결과 격차를 어느 정도 감소시키는가?
• RQ5 허용 가능한 속성(Z)이 관측되지 않을 경우, 관측된 보호 대상 속성(X)과 표현(Y)만을 기반으로 이 방법을 효과적으로 적용할 수 있는가?

주요 결과

• 80번째 분위수 임계값을 사용할 때, 편향 제거된 로지스틱 회귀 모델은 아프리카계와 유럽계 간의 임의의 음성 결과율(FNR) 격차를 약 20%에서 4%로 줄였다.
• 편향 제거 후 아프리카계의 임의의 양성 결과율(FPR) 격차는 11%에서 9%로 감소했지만, 유럽계는 FPR이 약간 증가했다.
• 편향 제거된 데이터에서 정확도는 원본 데이터와 유사하게 유지되었으며, 50번째 분위수에서 정확도는 67%에서 65%로 약간 감소하여 성능 손실가 최소였다.
• 원본 표현에서는 오른쪽으로 치우친 분포를 보였던 아프리카계 재범 확률 분포가 편향 제거 후 더 균형 잡힌 분포로 이동했다.
• 편향 제거된 표현은 허용 가능한 속성에 조건부로 보호 대상 속성과 상관이 없었으며, 이는 조건부 평등성의 일차 근사치를 달성했음을 의미한다.
• 이 방법은 특히 형사 사법 위험 평가와 같은 고위험 의사결정 환경에서 편향 감소에 있어 통계적 효율성과 강건성을 입증했다.