[논문 리뷰] Fairkit, Fairkit, on the Wall, Who's the Fairest of Them All? Supporting Data Scientists in Training Fair Models

Brittany Johnson, Jesse Bartola외 5명|arXiv (Cornell University)|2020. 12. 17.

Ethics and Social Impacts of AI참고 문헌 45인용 수 7

한 줄 요약

Fairkit-learn는 데이터 과학자가 정확도와 공정성의 균형을 이루는 기계학습 모델을 탐색하고 선택하는 데 도움을 주는 오픈소스 툴킷입니다. 다양한 알고리즘, 초기화수치, 데이터 순열을 기반으로 수천 개의 모델 설정을 평가함으로써, 실제 기계학습 응용 프로그램에서의 공정성-품질 간 상충 관계를 이해하는 데 도움을 줍니다. 사용자 연구에서 Fairkit-learn를 사용한 학생들은 scikit-learn이나 IBM AI Fairness 360를 사용한 경우보다 최대 67% 더 공정하고 10% 더 정확한 모델을 생성했습니다.

ABSTRACT

Modern software relies heavily on data and machine learning, and affects decisions that shape our world. Unfortunately, recent studies have shown that because of biases in data, software systems frequently inject bias into their decisions, from producing better closed caption transcriptions of men's voices than of women's voices to overcharging people of color for financial loans. To address bias in machine learning, data scientists need tools that help them understand the trade-offs between model quality and fairness in their specific data domains. Toward that end, we present fairkit-learn, a toolkit for helping data scientists reason about and understand fairness. Fairkit-learn works with state-of-the-art machine learning tools and uses the same interfaces to ease adoption. It can evaluate thousands of models produced by multiple machine learning algorithms, hyperparameters, and data permutations, and compute and visualize a small Pareto-optimal set of models that describe the optimal trade-offs between fairness and quality. We evaluate fairkit-learn via a user study with 54 students, showing that students using fairkit-learn produce models that provide a better balance between fairness and quality than students using scikit-learn and IBM AI Fairness 360 toolkits. With fairkit-learn, users can select models that are up to 67% more fair and 10% more accurate than the models they are likely to train with scikit-learn.

연구 동기 및 목표

• 실제 기계학습 응용 프로그램에서 공정성-품질 간 상충 관계를 이해하는 데 도움이 되는 도구가 부족한 문제를 해결하기 위해.
• 공정성 정의가 통일되지 않은 다양한 데이터 도메인에서 공정성과 성능을 최적화하는 모델을 선택하는 데 데이터 과학자를 지원하기 위해.
• 기존 기계학습 워크플로우(예: scikit-learn)와 통합 가능한 접근성 있고 상호 운용성이 뛰어난 툴킷을 제공하여 파레토 최적 모델 세트의 시각화를 지원하기 위해.
• 편향된 데이터에서 공정성 결과를 잘못 대변하는 경향이 있는 정확도만의 단일 기준에 의존하는 것을 줄이기 위해.
• 다양한 공정성 정의와 지표를 지원하는 통합 인터페이스를 통해 데이터 과학자가 모델의 공정성에 대해 감사, 진단, 추론할 수 있도록 하기 위해.

제안 방법

• Fairkit-learn는 다양한 초기화수치와 데이터 순열을 기반으로 여러 학습 알고리즘(예: 로지스틱 회귀, 랜덤 포레스트, 적대적 편향 제거)을 사용해 수천 개의 모델을 훈련하고 평가합니다.
• 각 설정에 대해 공정성 지표(예: 민족적 평등성, 동일 기회)와 모델 품질 지표(예: 정확도, F1 점수)를 계산합니다.
• 공정성과 품질 간 최선의 트레이드오프를 나타내는 파레토 최적 모델 세트를 식별하고, 사용자 해석을 위해 시각화합니다.
• 표준 scikit-learn 스타일 인터페이스를 사용하여 기존 기계학습 파ip라인과 원활하게 통합되도록 합니다.
• 여러 공정성 정의를 지원하며, 도메인 특화 공정성 기준과 성능 지표를 기반으로 모델을 비교할 수 있도록 합니다.
• 인터랙티브 시각화를 통해 공정성-품질 지도를 탐색함으로써, 공정성과 성능 목표를 모두 충족시키는 모델을 선택하는 데 도움을 줍니다.

실험 결과

연구 질문

• RQ1 특정 도구가 제공되지 않은 상황에서 데이터 과학자가 공정성을 어떻게 평가하는가? 그리고 어떤 지표를 우선적으로 사용하는가?
• RQ2 scikit-learn이나 IBM AI Fairness 360와 같은 표준 도구에 비해 Fairkit-learn과 같은 툴킷이 모델 선택에서 공정성과 정확도의 균형을 얼마나 향상시킬 수 있는가?
• RQ3 공정성 인식 평가를 기반으로 한 모델 설정의 체계적 탐색은 기존 관행에 비해 훨씬 더 공정하고 정확한 모델을 도출할 수 있는가?
• RQ4 Fairkit-learn은 공정성과 모델 품질 간 최적 트레이드오프를 나타내는 파레토 최적 모델을 사용자가 얼마나 효과적으로 식별하는 데 도움이 되는가?
• RQ5 공정성-품질 트레이드오프의 시각화가 데이터 과학자의 의사결정 지원에 어떤 역할을 하는가?

주요 결과

• 54명의 학생을 대상으로 한 통제된 사용자 연구에서 Fairkit-learn을 사용한 학생들은 scikit-learn로 훈련한 모델보다 최대 67% 더 공정한 모델을 생성했습니다.
• Fairkit-learn을 사용한 학생들은 scikit-learn로 생성한 모델보다 최대 10% 더 정확한 모델을 달성했으며, 이는 공정성과 성능 간 균형이 향상되었음을 시사합니다.
• Fairkit-learn 사용자는 모델 선택 과정에서 공정성 지표를 더 많이 고려하는 경향이 있었으며, 정확도를 공정성의 대체 지표로 남용하는 경향이 줄어들었습니다.
• 이 툴킷은 다양한 데이터셋에서 공정성과 품질 간 최선의 트레이드오프를 나타내는 소규모이고 실행 가능한 파레토 최적 모델 세트를 성공적으로 식별했습니다.
• Fairkit-learn는 사용자가 더 나은 공정성-품질 균형을 달성하는 데 있어 scikit-learn과 IBM AI Fairness 360를 모두 능가했으며, 실제 모델 선택 시나리오에서의 효과성을 입증했습니다.
• 연구 결과는 전용 공정성 도구가 없을 경우 데이터 과학자가 정확도와 같은 품질 지표에 의존하는 경향이 있으며, 이는 공정성 문제를 간과할 수 있음을 보여주며, 통합된 공정성 지원의 필요성을 강조합니다.