[논문 리뷰] You Can Still Achieve Fairness Without Sensitive Attributes: Exploring Biases in Non-Sensitive Features.

Tianxiang Zhao, Enyan Dai외 2명|arXiv (Cornell University)|2021. 04. 29.

Ethics and Social Impacts of AI참고 문헌 34인용 수 8

한 줄 요약

이 논문은 민감한 속성의 유무에 관계없이 정당한 기계 학습을 달성하기 위해 민감한 속성과 높은 상관관계를 가지는 비민감한 특징을 활용하는 새로운 프레임워크를 제안한다. 이러한 대체 특징과 모델 예측 간의 상관관계를 최소화하면서도 그 기여도를 동적으로 가중치를 적용함으로써, 실제 데이터셋에서 높은 공정성과 정확도를 달성한다.

ABSTRACT

Though machine learning models are achieving great success, ex-tensive studies have exposed their disadvantage of inheriting latent discrimination and societal bias from the training data, which hinders their adoption on high-state applications. Thus, many efforts have been taken for developing fair machine learning models. Most of them require that sensitive attributes are available during training to learn fair models. However, in many real-world applications, it is usually infeasible to obtain the sensitive attribute due to privacy or legal issues, which challenges existing fair classifiers. Though the sensitive attribute of each data sample is unknown, we observe that there are usually some non-sensitive features in the training data that are highly correlated with sensitive attributes, which can be used to alleviate the bias. Therefore, in this paper, we study a novel problem of exploring features that are highly correlated with sensitive attributes for learning fair and accurate classifier without sensitive attributes. We theoretically show that by minimizing the correlation between these related features and model prediction, we can learn a fair classifier. Based on this motivation, we propose a novel framework which simultaneously uses these related features for accurate prediction and regularizing the model to be fair. In addition, the model can dynamically adjust the importance weight of each related feature to balance the contribution of the feature on model classification and fairness. Experimental results on real-world datasets demonstrate the effectiveness of the proposed model for learning fair models with high classification accuracy.

연구 동기 및 목표

• 개인정보나 법적 제약으로 인해 민감한 속성이 제공되지 않을 경우 정당한 기계 학습 모델을 훈련시키는 데 도전하는 데 목적을 두며.
• 민감한 속성과 높은 상관관계를 가지는 비민감한 특징을 찾아 공정성 완화를 위한 대체 수 Mittel로 활용하는 것을 목표로 한다.
• 이러한 대체 특징 기반으로 예측을 정규화함으로써 동시에 높은 분류 정확도와 공정성을 확보하는 프레임워크를 개발하는 것.
• 대체 특징의 기여도를 동적으로 조정하여 정확도와 공정성 간의 영향을 균형 잡는 것.

제안 방법

• 프레임워크는 훈련 데이터 내에서 민감한 속성과 높은 상관관계를 가지는 비민감한 특징을 식별하여 대체 수 Mittel로 사용한다.
• 예측과 이러한 대체 특징 간의 상관관계를 최소화하는 정규화된 목적 함수를 설정하여 편향을 줄인다.
• 각 대체 특징의 기여도를 조정하는 동적 가중치 메커니즘을 통해 정확도와 공정성 간의 균형을 맞춘다.
• 정확한 예측과 공정성 정규화를 하나의 종단간 학습 과정에 통합한다.
• 교차 엔트로피 손실과 공정성 정규화 항을 조합한 손실 함수를 사용하여 표준 최적화 기법으로 프레임워크를 훈련시킨다.

실험 결과

연구 질문

• RQ1 민감한 속성과 상관관계가 높은 비민감한 특징을 효과적으로 활용하여 기계 학습 모델의 공정성을 향상시킬 수 있는가?
• RQ2 민감한 속성이 제공되지 않을 경우, 분류 정확도와 공정성 간의 상충 관계를 어떻게 균형 잡을 수 있는가?
• RQ3 대체 특징의 동적 가중치 조정이 공정성과 정확도 성능에 어떤 영향을 미치는가?
• RQ4 기존의 민감한 속성이 없는 정당한 학습 방법에 비해 제안된 프레임워크는 편향 감소에 얼마나 효과적인가?

주요 결과

• 민감한 속성이 제공되지 않더라도 제안된 프레임워크는 높은 공정성 성능을 달성하며, 기준 방법에 비해 공정성 지표에서 뛰어난 성능을 보였다.
• 민감한 속성과 상관관계가 높은 대체 특징의 사용은 모델 편향을 크게 감소시키면서도 높은 예측 정확도를 유지하는 데 기여했다.
• 대체 특징의 동적 가중치 조정은 다양한 데이터셋에서 공정성과 정확도의 균형을 잘 맞추는 데 모델의 능력을 향상시켰다.
• 실제 데이터셋에 대한 실험 결과는 예측과 대체 특징 간의 상관관계를 최소화할수록 더 정당한 모델 결과가 도출됨을 확인했다.