[논문 리뷰] With Malice Towards None: Assessing Uncertainty via Equalized Coverage

Yaniv Romano, Rina Foygel Barber외 2명|arXiv (Cornell University)|2019. 08. 15.

Explainable Artificial Intelligence (XAI)참고 문헌 36인용 수 6

한 줄 요약

이 논문은 기초 예측 모델에 관계없이 보호 그룹(예: 인종, 성별, 민족) 간에 균형 잡힌, 동일한 커버리지가 보장되는 분포에 종속되지 않는 예측 구간을 구성하기 위한 등가 커버리지(equalized coverage)를 제안한다. 어떤 회귀 알고리즘을 기반으로 하는지에 관계없이 래퍼(wrapper) 방식을 활용함으로써 유한 표본에서의 타당성을 보장하며, 실제 데이터에서 경쟁 기법들보다 공정한 불확실성 추정을 유지하는 데 뛰어난 성능을 발휘한다.

ABSTRACT

An important factor to guarantee a fair use of data-driven recommendation systems is that we should be able to communicate their uncertainty to decision makers. This can be accomplished by constructing prediction intervals, which provide an intuitive measure of the limits of predictive performance. To support equitable treatment, we force the construction of such intervals to be unbiased in the sense that their coverage must be equal across all protected groups of interest. We present an operational methodology that achieves this goal by offering rigorous distribution-free coverage guarantees holding in finite samples. Our methodology, equalized coverage, is flexible as it can be viewed as a wrapper around any predictive algorithm. We test the applicability of the proposed framework on real data, demonstrating that equalized coverage constructs unbiased prediction intervals, unlike competitive methods.

연구 동기 및 목표

• 데이터 기반 추천 시스템에서의 알고리즘 편향을 해결하기 위해 보호 그룹 간에 균형 잡힌 불확실성 측정을 보장하고자 한다.
• 민감한 속성에 대해 편향이 없고, 표본 수가 유한한 조건에서 유효한 예측 구간을 구성하기 위한 실용적인 방법을 개발하고자 한다.
• 범죄 사법, 헬스케어, 교육과 같은 고위험 분야에서 의사결정을 공정하게 만들기 위해 불확실성 추정이 그룹에 종속되지 않도록 하고자 한다.
• 예측 성능의 격차를 철저히 평가하고 완화함으로써 윤리적인 AI를 지원하고자 한다.
• 기존 예측 모델을 재학습하지 않고도 적용 가능한 유연한 프레임워크를 제공하고자 한다.

제안 방법

• 이 방법은 그룹 간 커버리지 제어를 위해 조정된 순환 추론(conformal inference) 프레임워크를 사용하여 예측 구간을 구성한다.
• 모든 보호 그룹 간에 동일한 커버리지 확률을 확보하기 위해 예측 구간을 조정하는 재가중화(reweighting) 방식을 도입한다.
• 이 방법은 분포에 종속되지 않으며, 최소한의 가정 하에 유한 표본에서의 타당성 보장을 제공한다.
• 캘리브레이션 과정에서 보호 속성을 사용하여 그룹 간 커버리지 격차를 식별하고 수정한다.
• 알고리즘은 래퍼 방식으로 작동한다: 어떤 예측 모델의 출력을 받아들이고, 예측 구간을 조정하여 등가 커버리지(등가 커버리지)를 강제한다.
• 그룹별 예측 오차를 고려하면서도 전체 커버리지 유지가 가능한 분위수 기반 캘리브레이션 절차를 사용한다.

실험 결과

연구 질문

• RQ1 특정 데이터 분포를 가정하지 않고도 보호 그룹 간에 동일한 커버리지가 유지되는 예측 구간을 구성할 수 있는가?
• RQ2 어떻게 하면 어떤 민족적 배경의 그룹에 대해 체계적으로 더 높거나 낮은 신뢰도를 갖는 불확실성 추정을 방지할 수 있는가?
• RQ3 기존 방법에 비해 래퍼 기반 접근이 불확실성 측정의 공정성 향상에 얼마나 기여하는가?
• RQ4 캘리브레이션 과정에서 보호 속성을 사용할 경우, 균형 잡힌 커버리지 달성에 어떤 영향을 미치는가?
• RQ5 등가 커버리지가 인종, 성별, 민족 등 민감한 속성을 포함한 실제 응용에서 어떻게 성능을 발휘하는가?

주요 결과

• 제안된 등가 커버리지 방법은 모든 보호 그룹에 대해 유한 표본에서의 분포에 종속되지 않는 커버리지 보장을 달성한다.
• 실제 데이터에서 등가 커버리지 방법은 경쟁 기법들에 비해 예측 구간의 공정성이 뚜렷이 향상되었으며, 후자들은 종종 커버리지 격차를 보였다.
• 기본 모델이 편향되어 있어도 예측 정확도를 유지하면서 커버리지 비율이 그룹 간 균형을 이루도록 한다.
• 캘리브레이션 과정에서 보호 속성을 사용함으로써 모델 재학습 없이도 커버리지 불균형을 정밀하게 탐지하고 수정할 수 있다.
• 이 프레임워크는 어떤 예측 모델에도 적용 가능하므로, 범죄 사법, 헬스케어, 교육 등 다양한 분야에 널리 적용 가능하다.
• 등가 커버리지 방법은 표준 순환 예측 및 기타 공정성 인식 기반 방법보다 민족적 소수 그룹 간에 동일한 커버리지 유지에 뛰어난 성능을 발휘한다.