[논문 리뷰] An Empirical Study on Learning Fairness Metrics for COMPAS Data with Human Supervision

Hanchen Wang, Nina Grgić-Hlača외 3명|arXiv (Cornell University)|2019. 10. 22.

Ethics and Social Impacts of AI참고 문헌 30인용 수 19

한 줄 요약

이 논문은 ProPublica의 COMPAS 데이터에 대한 설문 조사에서 수집한 인간 평가를 바탕으로 범죄 재범 예측을 위한 개인적 공정성 지표를 학습하는 방법을 제안한다. 인간이 평가한 재범 위험도 및 보석 결정에 대한 평가에 대해 메트릭 학습 알고리즘(LMNN, MMC, LSML)을 적용함으로써, 특히 트리플릿 제약 손실을 사용할 경우 인간의 일관성 있는 유사성과 잘 부합하는 학습된 메트릭이 유클리드 거리 및 정밀도 기반 기준보다 유의미하게 뛰어나다는 것을 발견하였다. 이는 절대적 인간 평가로부터 공정성 지표를 유추할 수 있음을 보여주며 실현 가능성을 입증한다.

ABSTRACT

The notion of individual fairness requires that similar people receive similar treatment. However, this is hard to achieve in practice since it is difficult to specify the appropriate similarity metric. In this work, we attempt to learn such similarity metric from human annotated data. We gather a new dataset of human judgments on a criminal recidivism prediction (COMPAS) task. By assuming the human supervision obeys the principle of individual fairness, we leverage prior work on metric learning, evaluate the performance of several metric learning methods on our dataset, and show that the learned metrics outperform the Euclidean and Precision metric under various criteria. We do not provide a way to directly learn a similarity metric satisfying the individual fairness, but to provide an empirical study on how to derive the similarity metric from human supervisors, then future work can use this as a tool to understand human supervision.

연구 동기 및 목표

• 범죄 재범 위험도에 대한 인간의 평가가 개인적 공정성 지표를 학습하는 데 사용될 수 있는지 조사하기 위해.
• 다양한 메트릭 학습 알고리즘(LMNN, MMC, LSML)이 절대적 인간 평가로부터 공정성 지표를 학습하는 데 어떻게 성능을 내는지 평가하기 위해.
• 예측 정확도와 인간 평가와의 일관성 측면에서 학습된 메트릭을 기준 메트릭(유클리드, 정밀도)과 비교하기 위해.
• 트리플릿 제약에서 최소 거리 임계값 σ와 같은 하이퍼파라미터에 대한 학습된 메트릭의 민감도를 평가하기 위해.
• 실제 응용에서 쉽게 확보 가능한 절대적 인간 평가가 더 복잡한 상대적 평가 데이터를 대체할 수 있는지 탐색하기 위해.

제안 방법

• ProPublica의 COMPAS 데이터셋에서 무작위로 선정된 200명의 피고인에 대해 온라인 설문 조사를 통해 인간 평가를 수집하였으며, 재범 가능성과 보석 결정에 대해 5점 리커트 척도를 사용하였다.
• 인간 평가에서 유사도가 높다고 판단된 개인 간의 거리가 작아지도록 하기 위해 인간 평가에서 트리플릿 제약 조건을 구성하였다.
• 공정성 인식 거리 메트릭을 학습하기 위해 세 가지 메트릭 학습 알고리즘인 대규모 마진 근접 이웃(LMNN), 메트릭 최대화 클러스터링(MMC), 로그 합 지수 메트릭 학습(LSML)을 적용하였다.
• 세 가지 평가 손실 함수를 사용하였다: 트리플릿 상대 비교 손실(순서화된 거리에 대한 히inge 손실), kNN L1 손실(예측 평가와 진짜 평가 간 ℓ1 발산), kNN L2 손실(예측 평가와 진짜 평가 간 ℓ2 발산).
• kNN 기반 손실에 대해 정규화 계수 α(0.01으로 설정)와 이웃 수 k(5로 설정)와 같은 하이퍼파라미터를 튜닝하였다.
• 학습된 메트릭을 인간 평가 데이터와 원본 COMPAS 데이터셋 모두에서 평가하였으며, 트리플릿 제약 조건 구성에 사용된 다양한 임계값 σ에 대해 성능을 비교하였다.

실험 결과

연구 질문

• RQ1 범죄 재범 위험도 및 보석 결정에 대한 인간의 절대적 평가가 개인적 공정성 지표를 효과적으로 학습하는 데 사용될 수 있는가?
• RQ2 다양한 메트릭 학습 알고리즘(LMNN, MMC, LSML)이 유클리드 및 정밀도와 같은 기준 메트릭과 비교해 인간 평가로부터 공정성 지표를 학습하는 데 어떻게 성능을 내는가?
• RQ3 학습된 메트릭은 인간이 순서화한 유사성 평가와의 일관성을 유지하면서도 새로운 데이터에 잘 일반화되는가?
• RQ4 트리플릿 제약에서 최소 거리 임계값 σ와 같은 하이퍼파라미터에 대한 학습된 메트릭의 성능 민감도는 어떠한가?
• RQ5 실제 응용에서 흔히 확보 가능한 절대적 인간 평가가 상대적 평가 데이터를 대체할 수 있는 유망한 대안이 될 수 있는가?

주요 결과

• 특히 LSML 알고리즘을 사용한 학습된 메트릭은 트리플릿 상대 비교 손실에서 유클리드 및 정밀도 기준보다 유의미하게 뛰어나, 인간이 순서화한 유사성 평가와의 일치도가 더 높다는 것을 보여주었다.
• kNN L1 및 L2 손실에서 학습된 메트릭은 유클리드 및 정밀도 기준보다 약간 뛰어나, 평가 회복 예측 정확도가 향상됨을 시사하였다.
• 트리플릿 제약 조건 구성에서 임계값 σ가 증가할수록 모든 메트릭에서 손실이 감소하였으며, 이는 더 큰 클래스 간 거리가 학습 과제를 더 쉽게 만들다는 것을 확인하였다.
• 적응형 LSML 방법은 σt = 6일 때 ProPublica 데이터셋에서 손실 0.30 ± 0.034를 기록하여, 같은 임계값에서 유클리드 메트릭(0.31 ± 0.033)과 기본 LSML(0.29 ± 0.060)을 모두 초월하였다.
• 결과적으로 절대적 인간 평가만으로도 인간의 유사성 인식과 일치하는 공정성 지표를 학습할 수 있음을 시사하며, 인간의 인식과의 일관성을 유지할 수 있음을 보여주었다.
• 예측 성능가능성은 메트릭 간 유사했지만, 트리플릿 일관성 손실은 뚜렷한 차이를 드러내어, 정확도 외에도 공정성 지표 평가 시 다른 기준이 반드시 필요함을 강조하였다.