[논문 리뷰] Avoiding Resentment Via Monotonic Fairness

Guy W. Cole, Sinead A. Williamson|arXiv (Cornell University)|2019. 09. 03.

Ethics and Social Impacts of AI참고 문헌 36인용 수 5

한 줄 요약

이 논문은 핵심 속성에 대해 모델 예측의 단조성 조건을 부여함으로써 개인의 공정성과 인구통계적 균형을 결합하는 단조성 공정성(monotonic fairness)을 제안한다. 더 잘 자격을 갖춘 개인이 항상 높은 수용 확률을 가지도록 보장함으로써, 직관에 어긋나는 결과로 인한 분노를 제거하면서도 그룹 수준의 공정성을 유지한다.

ABSTRACT

Classifiers that achieve demographic balance by explicitly using protected attributes such as race or gender are often politically or culturally controversial due to their lack of individual fairness, i.e. individuals with similar qualifications will receive different outcomes. Individually and group fair decision criteria can produce counter-intuitive results, e.g. that the optimal constrained boundary may reject intuitively better candidates due to demographic imbalance in similar candidates. Both approaches can be seen as introducing individual resentment, where some individuals would have received a better outcome if they either belonged to a different demographic class and had the same qualifications, or if they remained in the same class but had objectively worse qualifications (e.g. lower test scores). We show that both forms of resentment can be avoided by using monotonically constrained machine learning models to create individually fair, demographically balanced classifiers.

연구 동기 및 목표

• 비단조성적인 결정 규칙으로 인해 개인이 불공정하게 대우당하는 상황에서 발생하는 개인의 분노를 해결하기 위해.
• 유사한 개인은 유사하게 대우되어야 한다는 개인 공정성과 그룹 간 공정한 결과를 달성해야 한다는 인구통계적 공정성 간의 갈등을 해결하기 위해.
• 낮은 점수를 받은 지원자가 더 유리한 대안을 받는 것과 같은 직관에 어긋나는 결과를 피하면서도 인구통계적 균형을 유지하는 분류기 설계를 위해.
• 단조성과 그룹 공정성을 결합한 새로운 공정성 기준을 체계화하여 인식된 불공정성을 줄이기 위해.

제안 방법

• 핵심 특성에 대해 예측의 단조성을 강제하여, 키 포인트 특성의 값이 높을수록 더 높은 예측 결과를 얻도록 보장한다.
• 입력 특성의 자연스러운 순서를 존중하는 결정 경계를 학습하기 위해 단조성 신경망을 사용한다.
• 등급 기회나 동일한 오차율 등 인구통계적 공정성 제약 조건을 단조성과 함께 학습 목표에 통합한다.
• 매끄럽고 공정한 모델을 평가하기 위해 리프시츠 상수의 표본 기반 추정기를 적용한다.
• 예측 정확도와 공정성을 균형 잡기 위해 단조성 정규화와 공정성 정규화를 조합하여 모델을 훈련한다.
• 사전 훈련된 모델에 대해 후행 조정 기법을 사용하여 단조성을 강제함으로써, 존재하는 블랙박스 분류기와의 호환성을 확보한다.

실험 결과

연구 질문

• RQ1 예측의 단조성이 보장되지 않으면, 자격이 떨어지는 개인이 더 유리한 결과를 얻는 경우가 발생할 수 있는데, 이러한 상황에서 단조성이 개인의 분노를 방지할 수 있는가?
• RQ2 실제 응용 분야인 법학대학 입학과 같은 분야에서 단조성 공정성을 인구통계적 공정성과 어떻게 융합하여 비직관적인 결정을 피할 수 있는가?
• RQ3 단조성 제약을 적용함으로써 예측 정확도를 희생시키지 않고도 모델의 인식된 공정성은 어느 정도 향상되는가?
• RQ4 단조성 제약 조건이 데이터 내 비단조성적 경향에 대한 과적합을 줄이는 정규화 역할을 할 수 있는가?

주요 결과

• 단조성 공정성은 자격이 낮은 개인이 유리한 결과를 얻는 비직관적인 결과를 제거하여, 인구통계적 공정성이 달성된 상황에서도 분노를 유발할 수 있다.
• 법학대학 데이터셋에서 단조성 신경망은 비단조성 모델에 비해 더 매끄럽고 일관성 있는 결정 경계를 생성했으며, 특히 자연스럽게 단조적인 설정에서 두드러졌다.
• 단조성 제약 조건은 학습 데이터 내 비단조성 패턴에 대한 과적합을 줄이는 정규화 역할을 하며, 강한 단조성 관계를 가진 데이터셋에서 특히 효과적이다.
• 표본 기반 리프시츠 상수 추정기는 단조성 모델이 비단조성 모델보다 더 매끄럽다는 것을 보여주었으며, 이는 단조성 모델의 개인 공정성 특성을 뒷받침한다.
• 인구통계적 공정성이 강제된 상태에서도 비단조성 모델은 점수를 낮추면 수용 확률이 증가하는 정책을 생성할 수 있다—이는 단조성의 필요성을 강조한다.
• 후행 단조성 조정은 실현 가능하며, 기존 분류기의 기초 모델 아키텍처를 수정하지 않고 적용할 수 있다.