[논문 리뷰] Individual Calibration with Randomized Forecasting

Shengjia Zhao, Tengyu Ma외 1명|arXiv (Cornell University)|2020. 06. 18.

Explainable Artificial Intelligence (XAI)인용 수 14

한 줄 요약

이 논문은 회귀에서 개인 캘리브레이션을 달성하기 위해 랜덤화된 예측 방법을 제안한다. 각 예측이 체계적인 부분군에 대한 잘못된 캘리브레이션을 제거하기 위해 랜덤 변수가 되도록 한다. 새로운 목표 함수를 사용해 개인 캘리브레이션을 강제하면서 정밀도를 균형 잡는 방식으로 훈련함으로써, 보호 그룹에 대한 사전 지식이 없더라도 적대적 환경에서도 우수한 공정성 및 의사결정 성능을 달성한다.

ABSTRACT

Machine learning applications often require calibrated predictions, e.g. a 90\% credible interval should contain the true outcome 90\% of the times. However, typical definitions of calibration only require this to hold on average, and offer no guarantees on predictions made on individual samples. Thus, predictions can be systematically over or under confident on certain subgroups, leading to issues of fairness and potential vulnerabilities. We show that calibration for individual samples is possible in the regression setup if the predictions are randomized, i.e. outputting randomized credible intervals. Randomization removes systematic bias by trading off bias with variance. We design a training objective to enforce individual calibration and use it to train randomized regression functions. The resulting models are more calibrated for arbitrarily chosen subgroups of the data, and can achieve higher utility in decision making against adversaries that exploit miscalibrated predictions.

연구 동기 및 목표

• 기계학습에서 평균 캘리브레이션의 한계를 해결하기 위해, 특히 공정성에 민감한 응용 분야에서 부분군에 대한 체계적인 잘못된 캘리브레이션을 초래할 수 있음을 다루기 위해.
• 보호 그룹이 알려지지 않거나 관찰되지 않더라도, 개별 데이터 샘플에 대해 캘리브레이션을 보장하는 방법을 개발하기 위해.
• 개별 캘리브레이션을 강제하면서도 예측 정밀도를 유지하는 훈련 목표 함수를 설계하기 위해.
• 적대적 분포 이동 상황에서의 공정성 및 의사결정 성능 평가를 위해.
• 랜덤화가 결정론적 예측기에서 실패하는 상황에서 개별 캘리브레이션을 가능하게 함을 보여주기 위해.

제안 방법

• 평균 캘리브레이션 또는 그룹 캘리브레이션보다 더 강력한 개념으로 개별 캘리브레이션을 도입하여, 각 개별 샘플에 대해 예측된 분위수 값이 광고된 확률로 정확해야 한다고 요구한다.
• 입력에 대해 예측된 누적분포함수(CDF)가 단위 구간 내에서 균일 분포를 이룬다는 것을 보장함으로써, 개별 캘리브레이션을 강제하는 훈련 목표 함수를 제안한다.
• 입력과 랜덤 시드에 조건화된 랜덤 변수인 CDF를 출력하는 랜덤화된 회귀 모델을 사용한다.
• 개별 캘리브레이션 목표 함수와 정밀도 목표 함수(예: 로그우도)를 결합하여 캘리브레이션과 정밀도 사이의 파레토 최적 균형을 달성한다.
• 스토캐스틱 포워드 패스를 사용하는 딥 네ural 네트워크를 활용해 랜덤화된 예측기를 구현함으로써 엔드 투 엔드 훈련을 가능하게 한다.
• 이론적으로 개별 캘리브레이션이 평균 캘리브레이션보다 더 강력한 커버리지 성질을 암시하며, 특히 분포 이동 상황에서 그러한 성질이 뚜렷하다는 것을 보여준다.

실험 결과

연구 질문

• RQ1 보호 그룹이 알려지지 않거나 관찰되지 않은 상황에서도, 예측을 랜덤화함으로써 랜덤화된 예측을 통해 개별 캘리브레이션을 달성할 수 있는가?
• RQ2 보호 그룹이 사전에 알려지지 않은 상황에서, 개별 캘리브레이션이 신용 리스크 예측과 같은 응용 분야에서 공정성을 어떻게 향상시키는가?
• RQ3 데이터 분포가 적대적으로 이동할 경우, 개별 캘리브레이션은 의사결정 성능에 어떤 영향을 미치는가?
• RQ4 실제 작업에서 랜덤화된 예측기는 결정론적 모델보다 더 나은 캘리브레이션과 유틸리티를 달성할 수 있는가?
• RQ5 개별 캘리브레이션, 그룹 캘리브레이션, 평균 캘리브레이션 간의 이론적 관계는 무엇인가?

주요 결과

• 제안된 방법은 예측 출력을 랜덤화함으로써 회귀에서 개별 캘리브레이션을 달성하며, 관측되지 않거나 계산이 불가능한 부분군에 대해서도 체계적인 잘못된 캘리브레이션을 제거한다.
• UCI 범죄 예측 작업에서, 보호 그룹에 대한 캘리브레이션 오차가 훨씬 낮게 유지되었으며, 이는 훈련 시 그룹 레이블이 필요로 하지 않았다.
• 은행과 리스크를 추구하는 고객 간의 시뮬레이션 게임에서, 적대적 분포 이동 상황에서 개별 캘리브레이션된 예측기를 사용한 은행은 평균 캘리브레이션 모델보다 낮은 의사결정 손실을 기록했다.
• 이론적 분석 결과, 개별 캘리브레이션이 평균 캘리브레이션보다 더 강력한 커버리지 보장을 암시하며, 특히 데이터 분포가 변화할 경우 그러한 보장이 두드러진다.
• 이 방법은 딥 네URAL 네트워크와 호환되며, 개별 캘리브레이션과 정밀도를 균형 잡는 기울기 기반 목표 함수를 사용해 엔드 투 엔드 훈련이 가능하다.
• 랜덤화는 결정론적 예측기가 일반 조건 하에서 실패하는 상황에서 개별 캘리브레이션을 가능하게 하며, 이는 일반 조건 하에서 결정론적 개별 캘리브레이션의 불가능성을 증명한 보조정리 1(Proposition 1)에 의해 입증된다.