[논문 리뷰] On Fairness, Diversity and Randomness in Algorithmic Decision Making

Nina Grgić-Hlača, Muhammad Bilal Zafar외 2명|arXiv (Cornell University)|2017. 06. 30.

Ethics and Social Impacts of AI인용 수 12

한 줄 요약

이 논문은 알고리즘적 의사결정에서 공정성과 정확도를 향상시키기 위해 공정하거나 불공정한 분류기의 무작위 앙상블을 사용하는 것을 제안한다. 다양한 집합에서 무작위로 하나의 분류기를 선택함으로써, 앙상블은 특히 그룹 내 결과 분포 측면에서 더 나은 공정성을 달성하면서도, 개별 분류기가 불공정하더라도 정확도-공정성 트레이드오프를 유지하거나 향상시킨다.

ABSTRACT

Consider a binary decision making process where a single machine learning classifier replaces a multitude of humans. We raise questions about the resulting loss of diversity in the decision making process. We study the potential benefits of using random classifier ensembles instead of a single classifier in the context of fairness-aware learning and demonstrate various attractive properties: (i) an ensemble of fair classifiers is guaranteed to be fair, for several different measures of fairness, (ii) an ensemble of unfair classifiers can still achieve fair outcomes, and (iii) an ensemble of classifiers can achieve better accuracy-fairness trade-offs than a single classifier. Finally, we introduce notions of distributional fairness to characterize further potential benefits of random classifier ensembles.

연구 동기 및 목표

• 단일 분류기를 다양한 앙상블로 대체할 경우 알고리즘적 의사결정에서의 공정성이 향상되는지 조사하는 것.
• 분류기 앙상블의 무작위성과 다양성이 불공정성 지표인 차별 대우, 영향력, 오분류와 같은 지표에 어떤 영향을 미치는지 검토하는 것.
• 불공정한 분류기의 앙상블이 여전히 공정한 결과를 도출할 수 있는 조건을 특정하는 것.
• 감수성 그룹 내에서의 결과 분포가 공정하게 이루어지는지를 중점적으로 다루는 분포 공정성 개념을 도입하고 탐구하는 것.
• 개별 모델이 편향되어 있어도 앙상블 방법이 정확도-공정성 트레이드오프에서 단일 분류기보다 뛰어나게 성능을 발휘할 수 있음을 보여주는 것.

제안 방법

• M개의 다양한 분류기로 구성된 집합에서 균일하게 무작위로 하나의 분류기를 선택하여 무작위 분류기 앙상블을 수학적으로 정의한다. 각 분류기는 입력 특징을 이진 예측으로 매핑한다.
• 표준 측정 기준을 사용하여 공정성을 정의한다: 영향력의 균형(모든 그룹에서 동일한 수락 비율), 기회 균형, 오분류의 균형.
• 앙상블의 공정성을 분석하기 위해, 앙상블 구성원에 대한 확률 분포 p(j)를 사용하여 분류기의 무작위 선택에 따른 기대 결과 확률을 계산한다.
• 감수성 그룹 내 개인 간에 유익한 결과가 얼마나 균등하게 분포되어 있는지 평가하기 위해 분포 공정성 개념을 도입한다.
• 이론적 분석과 예시(예: 동일한 영향력 지표를 가지지만 할당 패턴이 다른 두 분류기)를 사용하여 개별 분류기와 앙상블의 공정성 행동을 비교한다.
• 다양한 공정성 정의에 따라 앙상블 성능을 개별 분류기 성능과 비교함으로써 정확도와 공정성 간의 트레이드오프를 평가한다.

실험 결과

연구 질문

• RQ1 공정한 분류기의 무작위 앙상블이 다수의 공정성 정의 하에서 반드시 공정성을 보장할 수 있는가?
• RQ2 불공정한 분류기의 무작위 앙상블이 여전히 공정한 결과를 도출할 수 있는가, 특히 감수성 그룹 내 결과 분포 측면에서?
• RQ3 다양한 앙상블을 사용할 경우 단일 분류기 대비 정확도-공정성 트레이드오프가 향상되는가?
• RQ4 분류기 선택의 무작위성은 감수성 그룹 내에서 유익한 결과의 분포를 어떻게 더 공정하게 만들 수 있는가?
• RQ5 기존의 공정성 지표는 왜 그룹 내 공정성을 간과하는가? 앙상블 성능 평가를 위해 필요한 새로운 개념(예: 분포 공정성)은 무엇인가?

주요 결과

• 공정한 분류기의 앙상블은 영향력 균형과 기회 균형을 포함한 다수의 공정성 정의 하에서 반드시 공정성을 확보한다.
• 불공정한 분류기의 앙상블이라도 감수성 그룹 내 개인 간에 긍정적 결과의 확률을 균등화함으로써 여전히 공정한 결과를 달성할 수 있다.
• 모든 개별 분류기가 불공정하더라도 앙상블은 어떤 단일 분류기보다도 더 나은 정확도-공정성 트레이드오프를 달성할 수 있다.
• 다양한 앙상블에서의 무작위 선택은 더 부드럽고 강건한 기대 결과를 이끌어내며, 결정 경계 근처의 유사한 개인 간에 극단적인 결과 격리 위험을 줄인다.
• 기존의 공정성 지표는 종종 그룹 내 공정성을 간과한다. 앙상블 접근법은 다양성과 무작위성 덕분에 그룹 내에서 결과 확률을 균등화함으로써 분포 공정성을 상당히 향상시킬 수 있음을 드러낸다.
• 각기 다른 여성 하위집단에게만 유익한 결과를 할당하는 두 분류기의 50-50 앙상블은 모든 여성에게 50%의 긍정적 결과 확률을 보장함으로써 그룹 내 공정성 향상을 입증한다.