[논문 리뷰] Conditional Learning of Fair Representations

Han Zhao, Amanda Coston외 2명|arXiv (Cornell University)|2019. 10. 16.

Ethics and Social Impacts of AI참고 문헌 36인용 수 18

한 줄 요약

이 논문은 균형 잔차율(BER)과 표현의 조건부 일치를 활용하여 정확도 평등성과 동일한 오차를 동시에 달성하는 새로운 알고리즘을 제안한다. 이 방법은 목표 변수와 민감 속성 양쪽에서 BER을 최적화함으로써, 인구 통계적 평등성을 훼손하지 않으면서 균형 잠재 데이터에서 유티리티-정의성 트레이드오프를 향상시킨다.

ABSTRACT

We propose a novel algorithm for learning fair representations that can simultaneously mitigate two notions of disparity among different demographic subgroups in the classification setting. Two key components underpinning the design of our algorithm are balanced error rate and conditional alignment of representations. We show how these two components contribute to ensuring accuracy parity and equalized false-positive and false-negative rates across groups without impacting demographic parity. Furthermore, we also demonstrate both in theory and on two real-world experiments that the proposed algorithm leads to a better utility-fairness trade-off on balanced datasets compared with existing algorithms on learning fair representations for classification.

연구 동기 및 목표

• 정확도 평등성과 동일한 오차가 정의로운 표현 학습에서 동시에 달성될 수 있는지에 대한 열린 질문을 해결하기 위해.
• 유티리티 또는 인구 통계적 평등성을 포기하지 않고도 다양한 인구 통계적 하위군에서 정의를 보장하는 방법을 설계하기 위해.
• 균형 잔차율(BER)과 조건부 일치가 동시에 정의 보장을 가능하게 하는 이론적 및 실증적 검증을 수행하기 위해.
• 기존 방법과 비교하여 균형 임의의 실세계 데이터셋에서 유티리티-정의성 트레이드오프를 향상시키는 것을 입증하기 위해.

제안 방법

• 정의로운 표현 학습을 최소화-최대화 문제로 모델링하여 목표 변수와 민감 속성 양쪽에서 BER을 동시에 최적화한다.
• 목표 변수에 조건부로 표현의 조건부 분포를 일치시킴으로써 인구 통계적 하위군 간 표현의 조건부 일치를 강제한다.
• 최소화-최대화 문제를 비용 감수 학습으로 환원하여 표준 머신러닝 파이프라인을 통해 효율적인 최적화를 가능하게 한다.
• 균형 잔차율(BER)을 주요 손실 함수로 사용하여 그룹 간 오차율이 균형을 이루고 공동 오차가 제한되도록 보장한다.
• 민감 속성의 주변 분포를 직접 제약하지 않기 때문에 인구 통계적 평등성을 유지한다.
• 단계별로 학습되며, 각 단계에서 선형 최소화-최대화 사다리꼴 문제를 해결하여 정의성과 유티리티를 반복적으로 향상시킨다.

실험 결과

연구 질문

• RQ1 정의로운 표현 학습에서 인구 통계적 평등성을 훼손하지 않고 정확도 평등성과 동일한 오차를 동시에 달성할 수 있는가?
• RQ2 균형 잔차율(BER)이 그룹 간 정의성과 공동 오차를 제한하는 데 이론적으로 어떤 역할을 하는가?
• RQ3 표현의 조건부 일치가 동일한 오차와 정확도 평등성을 달성하는 데 어떻게 기여하는가?
• RQ4 제안된 방법이 균형 데이터셋에서 기존의 정의로운 표현 학습 알고리즘보다 더 나은 유티리티-정의성 트레이드오프를 달성하는가?
• RQ5 정의로운 표현 학습의 맥락에서 BER, 동일한 오차, 인구 통계적 평등성 간의 관계는 무엇인가?

주요 결과

• 제안된 알고리즘은 균형 잔차율(BER)과 표현의 조건부 일치를 조합함으로써 정확도 평등성과 동일한 오차를 동시에 달성한다.
• 동일한 오차가 만족될 경우 BER이 인구 통계적 하위군 간 공동 오차의 상한선으로서 작용함이 증명된다.
• 이 방법은 손상 없이 인구 통계적 평등성을 유지하므로, 동일한 오차를 달성할 경우 인구 통계적 평등성이 '자연스럽게' 유지된다.
• 균형 데이터셋에서, 이 알고리즘은 기존의 정의로운 표현 학습 방법보다 더 나은 유티리티-정의성 트레이드오프를 보여준다.
• 비균형 데이터셋에서는 이 알고리즘이 오직 정확도 평등성을 달성하는 유일한 방법이지만, 전체 유티리티에 약간의 손실가치를 치르게 된다.
• 이론적 분석을 통해 BER이 정의성 확보와 오차 제한에 핵심적인 역할을 하며, 손실 함수에서 주변 오차 대신 BER을 사용할 근거가 있음을 확인한다.