[논문 리뷰] Auditing ML Models for Individual Bias and Unfairness

Songkai Xue, Mikhail Yurochkin외 1명|arXiv (Cornell University)|2020. 03. 11.

Explainable Artificial Intelligence (XAI)참고 문헌 26인용 수 9

한 줄 요약

이 논문은 볼록 최적화와 점점 다가가는 추론을 사용하여 기계 학습 모델의 개인적 편향을 탐지하기 위한 블랙박스 감사 프레임워크를 제안한다. 정확한 신뢰구간과 가설 검정을 제공하여 공정성 위반을 평가하며, 유형 I 오류 비율을 통제하면서 노스포인트의 COMPAS 재범 예측 도구에서 성별 및 인종 편향을 입증한다.

ABSTRACT

We consider the task of auditing ML models for individual bias/unfairness. We formalize the task in an optimization problem and develop a suite of inferential tools for the optimal value. Our tools permit us to obtain asymptotic confidence intervals and hypothesis tests that cover the target/control the Type I error rate exactly. To demonstrate the utility of our tools, we use them to reveal the gender and racial biases in Northpointe's COMPAS recidivism prediction instrument.

연구 동기 및 목표

• 기계 학습 모델에서 개인적 편향을 탐지하고 국소화하기 위한 校정된 통계적 도구의 부족을 해결하기 위해.
• 감사 과정에서 공정성 위반을 검토할 때 정확한 유형 I 오류 비율을 통제하는 추론 도구를 개발하기 위해.
• 모델 내부 정보를 요구하지 않고도 블랙박스 접근 방식을 통해 감사자가 공정성을 평가할 수 있도록 하기 위해.
• 공정성 제약이 있는 최적화 문제의 최적 해를 통해 편향의 해석 가능한 국소화를 가능하게 하기 위해.
• 실제 데이터를 사용하여 이 방법의 유용성을 입증하기 위해, 노스포인트의 COMPAS 재범 예측 시스템에서 체계적인 성별 및 인종 편향을 드러내기 위해.

제안 방법

• 유사한 입력 쌍 간의 모델 출력 차이를 유사도 측도에 따라 가중 평균으로 최소화하는 볼록 최적화 문제로 개인적 공정성 감사 문제를 수식화하기 위해.
• 고정된 강건성 반경 하에서 최적값의 점점 다가가는 분포를 유도하며, 이는 값 함수의 비정규성로 인해 비정규 분포임을 밝혀내기 위해.
• 최적값에 대한 점점 다가가는 정확한 신뢰구간과 가설 검정을 구성하여 공정성 위반을 평가하기 위해.
• 관측된 감사 값이 공정성 임계값 δ와 비교되어 최적값의 표본 분포에 기반한 추론을 통해 모델을 감사하기 위해.
• 감사 값에 대한 한쪽 끝 신뢰구간 검정을 통과하는 모델을 선택하는 공정성 제약 최적화를 통한 모델 선택에 방법을 통합하기 위해.
• 실제 데이터에 적용하기 위해 데이터 기반의 유사도 함수와 ℓ₁-정규화 로지스틱 회귀를 사용하여 공정성과 정확성의 균형을 맞추기 위해.

실험 결과

연구 질문

• RQ1 정확한 유형 I 오류 통제를 통해 기계 학습 모델에서 개인적 공정성 위반을 통계적으로 엄밀하게 탐지할 수 있는 방법을 개발할 수 있는가?
• RQ2 계산 효율성과 해석 가능성도 유지하면서 블랙박스 접근 방식만으로 기계 학습 모델을 감사할 수 있는가?
• RQ3 고정된 강건성 반경 하에서 공정성 제약이 있는 볼록 최적화 문제의 최적값의 점점 다가가는 분포는 무엇인가?
• RQ4 제안된 프레임워크는 실세계 기계 학습 시스템인 COMPAS와 같이 성별 및 인종 편향을 얼마나 잘 탐지하고 국소화할 수 있는가?
• RQ5 이 프레임워크는 공정성과 높은 예측 성능을 동시에 확보하기 위해 모델 선택에 통합될 수 있는가?

주요 결과

• 공정성 감사 문제에서 최적값의 점점 다가가는 분포는 값 함수의 비정규성로 인해 비정규 분포임을 입증하였으며, 이는 별도의 이론적 관심을 끌 만한 결과이다.
• 제안된 방법은 노스포인트의 COMPAS 재범 예측 시스템에서 유의미한 성별 및 인종 편향을 성공적으로 탐지하였으며, FaiTH 값은 심각한 공정성 위반을 시사한다.
• FaiTH 제약 하에서 선택된 ℓ₁-정규화 로지스틱 회귀 모델은 낮은 FaiTH 값을 기록하였고, 개인적 공정성 가설을 기각하지 않았으며, 경쟁 가능한 정확도를 유지하였다.
• 그룹 공정성 방법인 재가중 처리는 그룹 수준의 격차를 줄였지만, 인구통계적 특성(예: 인종)에 대한 큰 계수와 높은 FaiTH 값을 통해 개인적 공정성 위반을 악화시켰다.
• 신뢰구간을 통해 정확한 유형 I 오류 통제가 가능하며, 95% 하한 신뢰구간을 사용하여 선택 과정에서 공정한 모델를 걸러낼 수 있다.
• 선택된 모델은 성별을 예측 변수로 포함하지 않았으며, 이는 보호받는 특성에 의존하지 않고도 공정성을 달성할 수 있음을 보여주며, 예측 성능는 유지하였다.