[논문 리뷰] FairXGBoost: Fairness-aware Classification in XGBoost

Srinivasan Ravichandran, Drona Khurana외 2명|arXiv (Cornell University)|2020. 09. 03.

Ethics and Social Impacts of AI참고 문헌 15인용 수 5

한 줄 요약

이 논문은 XGBoost의 공정성 인식 확장인 FairXGBoost를 소개한다. 이는 최소한의 코드 변경으로 나무 생성 과정에 직접적으로 정규화 기반의 편향 완화 기법을 통합하는 것으로, 기존의 최고 수준의 공정성 성능을 달성하면서도 XGBoost의 확장성, 투명성 및 기준 데이터셋에서의 높은 예측 정확도를 유지한다.

ABSTRACT

Highly regulated domains such as finance have long favoured the use of machine learning algorithms that are scalable, transparent, robust and yield better performance. One of the most prominent examples of such an algorithm is XGBoost. Meanwhile, there is also a growing interest in building fair and unbiased models in these regulated domains and numerous bias-mitigation algorithms have been proposed to this end. However, most of these bias-mitigation methods are restricted to specific model families such as logistic regression or support vector machine models, thus leaving modelers with a difficult decision of choosing between fairness from the bias-mitigation algorithms and scalability, transparency, performance from algorithms such as XGBoost. We aim to leverage the best of both worlds by proposing a fair variant of XGBoost that enjoys all the advantages of XGBoost, while also matching the levels of fairness from the state-of-the-art bias-mitigation algorithms. Furthermore, the proposed solution requires very little in terms of changes to the original XGBoost library, thus making it easy for adoption. We provide an empirical analysis of our proposed method on standard benchmark datasets used in the fairness community.

연구 동기 및 목표

• 규제 산업에서의 공정성 인식 기계학습과 확장성 및 해석 가능성이 뛰어난 모델(예: XGBoost) 간의 격차를 해소한다.
• 대부분의 기존 공정성 방법과 호환되지 않는 XGBoost의 탐욕적 나무 생성 알고리즘과 호환되는 편향 완화 프레임워크를 개발한다.
• 복잡한 적대적 훈련에 의존하지 않고도 강력한 공정성 지표(예: 비대칭 영향도 ≥ 80%)를 달성하면서도 높은 모델 성능을 유지한다.
• XGBoost의 강점을 공정성 보장을 통해 결합함으로써 금융 및 헬스케어 분야에서의 실용적 도입을 가능하게 한다.
• 재학습이 필요 없이 단일 하이퍼파rameter(μ)를 통해 공정성-정확도 트레이드오프를 제어할 수 있는 즉시 사용 가능한 솔루션을 제공한다.

제안 방법

• 민감 그룹 간 결과의 격차에 기반해 모델 예측을 페널티 처리하는 공정성 정규화 항을 XGBoost의 목적 함수에 도입한다.
• 정규화된 목적 함수를 위해 수정된 그래디언트 및 헤시안 값을 유도하여 XGBoost의 2차 그래디언트 부스팅 프레임워크와의 호환성을 유지한다.
• 나무 생성 과정 중 분할 평가 과정에 공정성 정규화 항을 직접 통합하여 과정 내 공정성 최적화를 보장한다.
• 연속적이고 미분 가능한 정규화 항을 사용하여 XGBoost의 기존 훈련 파이프라인 내에서 종단 간 최적화를 가능하게 한다.
• 공정성과 정확도 간의 트레이드오프를 하이퍼파rameter μ를 통해 제어하며, 이는 공정성 페널티의 강도를 조절한다.
• 훈련 중 공정성-정확도 트레이드오프를 모니터링하기 위해 XGBoost의 내장 평가 지표 기능을 활용한다.

실험 결과

연구 질문

• RQ1 XGBoost의 핵심 최적화 프레임워크를 손상시키지 않고도 공정성 인식 정규화 기법을 효과적으로 XGBoost의 나무 생성 과정에 통합할 수 있는가?
• RQ2 제안된 FairXGBoost 방법은 기존 최고 수준의 공정성 방법과 비교해 공정성(예: 비대칭 영향도)과 예측 정확도 측면에서 어떻게 성능을 내는가?
• RQ3 다양한 기준 데이터셋에서 FairXGBoost는 어떤 정도로 높은 모델 성능을 유지하면서도 수용 가능한 공정성 수준(예: DI ≥ 80%)을 달성할 수 있는가?
• RQ4 실제로 공정성 하이퍼파rameter μ의 선택이 공정성과 정확도의 균형에 어떤 영향을 미치는가?
• RQ5 기본 XGBoost 모델이 이미 낮은 편향을 보이는 데이터셋에 대해서도 이 방법을 적용할 수 있으며, 이러한 경우 성능은 어떠한가?

주요 결과

• Adult 데이터셋을 제외한 모든 데이터셋에서 FairXGBoost는 (Grari 등, 2019), (Zhang 등, 2018), (Kamishima 등, 2012)보다 정확도 저하가 적으면서도 동등하거나 더 나은 공정성 성능를 달성한다.
• Adult 데이터셋에서는 기본 XGBoost 모델이 이미 낮은 공정성 수준을 보였기 때문에, FairXGBoost가 DI ≥ 0.8에 도달하기 위해 μ ∈ [0.6, 0.7]가 필요했으며, 이는 더 높은 트레이드오프 비용을 의미한다.
• COMPAS 데이터셋에서는 FairXGBoost가 더 낮은 μ 값(μ ∈ [0.2, 0.5])으로도 수용 가능한 공정성(DI ≥ 0.8)을 달성하여 이 데이터셋에서 더 높은 효율성을 보였다.
• 은행 및 디폴트 데이터셋에서는 기본 XGBoost 모델이 이미 DI ≥ 0.8 기준을 충족했으며, FairXGBoost는 성능 저하 없이 이를 유지했다.
• μ를 통해 세밀한 공정성 제어가 가능하며, 각 μ 값에서 최대 정확도 모델을 선택함으로써 모델러가 실용적인 트레이드오프 곡선을 확보할 수 있었다.
• 이 프레임워크는 XGBoost의 내장 평가 추적 기능과 호환되어 훈련 중 실시간으로 공정성-정확도 트레이드오프를 모니터링할 수 있다.