[논문 리뷰] A survey of bias in Machine Learning through the prism of Statistical Parity for the Adult Data Set

Philippe Besse, Eustasio del Barrio외 3명|arXiv (Cornell University)|2020. 03. 31.

Advanced Causal Inference Techniques참고 문헌 34인용 수 9

한 줄 요약

이 논문은 Adult Income 데이터셋에서 통계적 평등성(Statistical Parity)을 사용하여 기계학습의 편향을 조사하며, 불리한 영향 지표(Disparate Impact)를 통해 공정성을 평가한다. 직관적인 접근 방식인 그룹별 별도 모델링 전략은 실패함을 보여주며, 반면 양의 차별 전략은 일반화 성능을 희생시키지 않은 채 편향을 감소시킴을 입증한다. 이는 편향된 학습 데이터에서 공정성을 달성하는 데 있어 복잡성을 강조한다.

ABSTRACT

Applications based on Machine Learning models have now become an indispensable part of the everyday life and the professional world. A critical question then recently arised among the population: Do algorithmic decisions convey any type of discrimination against specific groups of population or minorities? In this paper, we show the importance of understanding how a bias can be introduced into automatic decisions. We first present a mathematical framework for the fair learning problem, specifically in the binary classification setting. We then propose to quantify the presence of bias by using the standard Disparate Impact index on the real and well-known Adult income data set. Finally, we check the performance of different approaches aiming to reduce the bias in binary classification outcomes. Importantly, we show that some intuitive methods are ineffective. This sheds light on the fact trying to make fair machine learning models may be a particularly challenging task, in particular when the training observations contain a bias.

연구 동기 및 목표

• 학습 데이터에서 유래한 편향이 이진 분류에서 알고리즘의 공정성에 미치는 영향을 분석하는 것.
• 유명한 Adult Income 데이터셋을 대상으로 불리한 영향 지표(Disparate Impact index)를 사용해 편향을 정량화하는 것.
• 그룹 수준의 차별을 줄이기 위한 다양한 공정성 완화 전략의 효과를 평가하는 것.
• 학습 데이터가 비균형일 경우 일반적으로 공정하다고 여겨지는 방법들이 실제로는 효과가 없음을 입증하는 것.
• 정확도 외에도 공정성 지표를 모델 평가에 통합할 중요성을 강조하는 것.

제안 방법

• 연구는 기계학습 공정성 연구의 표준 벤치마크인 Adult Income 데이터셋을 사용하며, 연령, 교육 수준, 성별 등의 특징을 포함한다.
• 통계적 평등성은 불리한 영향 지표(DI)를 통해 평가되며, 이는 보호받는 집단과 비보호 집단 간의 유리한 결과 비율의 비율로 정의된다.
• 논문은 DI 지표에 대한 신뢰구간을 추정하기 위해 직접 계산과 부트스트랩 재표본 추출을 모두 사용하여 공정성의 정도를 평가한다.
• 두 가지 완화 전략을 시험한다: 별도 처리(Separate Treatment, 각 그룹별 별도 모델 학습)와 양의 차별(Positive Discrimination, 각 그룹별로 다른 결정 임계값 적용).
• 성능 평가는 진짜 양성 및 진짜 음성 비율, 분류 정확도, 그리고 두 그룹 모두의 공정성 지표를 포함하여 평가된다.
• 분석은 로지스틱 회귀와 같은 표준 모델을 중심으로 여러 알고리즘 간 결과를 비교하여 편향 전파의 정도를 평가한다.

실험 결과

연구 질문

• RQ1 불리한 영향 지표(DI)는 Adult Income 데이터셋에서 어떻게 편향을 정량화하는가?
• RQ2 민감 속성(예: 성별)을 학습 데이터에서 제거하면 공정성에 어떤 영향을 미치는가?
• RQ3 그룹별 별도 모델링 전략은 편향을 효과적으로 줄일 수 있으며, 이는 모델 성능에 영향을 미치는가?
• RQ4 각 그룹에 다른 결정 규칙을 적용하는 양의 차별 전략은 더 공정한 결과를 이끌어내는가?
• RQ5 개인 수준의 공정성은 확보했지만, 학습 데이터가 비균형일 경우 일부 공정성 테스트 방법이 그룹 수준의 편향을 감지하지 못하는 이유는 무엇인가?

주요 결과

• 원본 Adult 데이터셋은 성별 집단 간 유리한 결과에 큰 격차를 보이며, 불리한 영향 지표 값이 강한 불균형을 나타낸다.
• 민감 속성을 학습 데이터에서 제거하더라도, 다른 특성과의 상관관계로 인해 여전히 차별적인 결과가 발생하므로 편향이 제거되지 않는다.
• 그룹별 별도 모델링 전략(Separate Treatment)은 편향을 줄이지 못하며, 데이터 불균형으로 인해 오히려 불공정성을 증가시킨다.
• 결정 임계값을 그룹별로 조정하는 Positive Discrimination 전략은 일반화 성능을 유지하면서도 편향을 성공적으로 감소시킨다.
• 로지스틱 회귀와 같은 단순한 모델조차도 유사한 상관관계로 인해 성별 편향을 전파할 수 있으며, 이는 설명 가능성과 공정성의 일치를 보장하지 못함을 보여준다.
• 학습 데이터가 비균형일 경우, 반사적 조건(Counterfactuals)에 기반한 공정성 테스트 방법은 그룹 수준의 편향을 감지하지 못하므로 통계적 공정성 지표의 필요성을 강조한다.