[논문 리뷰] Empirical Frequentist Coverage of Deep Learning Uncertainty Quantification Procedures

Benjamin Kompa|arXiv (Cornell University)|2021. 11. 30.

Adversarial Robustness in Machine Learning참고 문헌 30인용 수 25

한 줄 요약

이 논문은 회귀 및 분류 작업에서 데이터셋 이탈이 있는지 여부에 관계없이 딥러닝 불확실성 정량화 기법—베이지안 신경망, 몬테카를로 드롭아웃, 앙상블 등—의 경험적 빈도적 커버리지(coverage)를 평가한다. 일부 기법은 내분포 데이터에서 양호한 커버리지 성능을 보였지만, 분포 이탈 상황에서는 커버리지가 심각하게 악화됨을 발견하여 실세계 적용에 있어 중요한 한계를 드러낸다.

ABSTRACT

Uncertainty quantification for complex deep learning models is increasingly important as these techniques see growing use in high-stakes, real-world settings. Currently, the quality of a model’s uncertainty is evaluated using point-prediction metrics, such as the negative log-likelihood (NLL), expected calibration error (ECE) or the Brier score on held-out data. Marginal coverage of prediction intervals or sets, a well-known concept in the statistical literature, is an intuitive alternative to these metrics but has yet to be systematically studied for many popular uncertainty quantification techniques for deep learning models. With marginal coverage and the complementary notion of the width of a prediction interval, downstream users of deployed machine learning models can better understand uncertainty quantification both on a global dataset level and on a per-sample basis. In this study, we provide the first large-scale evaluation of the empirical frequentist coverage properties of well-known uncertainty quantification techniques on a suite of regression and classification tasks. We find that, in general, some methods do achieve desirable coverage properties on in distribution samples, but that coverage is not maintained on out-of-distribution data. Our results demonstrate the failings of current uncertainty quantification techniques as dataset shift increases and reinforce coverage as an important metric in developing models for real-world applications.

연구 동기 및 목표

• 딥러닝에서 인기 있는 불확실성 정량화 기법의 경험적 빈도적 커버리지 성능을 평가하는 것.
• 회귀 및 분류 작업에서 데이터셋 이탈 상황에서 커버리지 성질이 어떻게 변화하는지 조사하는 것.
• 커버리지와 간격 폭을 실세계 적용을 위한 해석 가능성과 유용성 측도로 평가하는 것.
• 다양한 벤치마크에서 커버리지, 간격 폭, 브라이어 스코어, 기대 캘리브레이션 오차(ECE)를 사용해 불확실성 기법을 비교하는 것.
• 임상의와 같은 비기술자 사용자에게 커버리지가 기존 캘리브레이션 점수보다 더 직관적이고 신뢰할 수 있는 측도임을 보여주는 것.

제안 방법

• 예측 95% 예측 간격 또는 집합에 진짜 레이블이 포함된 비율을 측정하는 마진 커버리지(marginal coverage)를 측도로 사용한다.
• 내분포 테스트 세트와 외분포 오염(CIFAR-10-C, ImageNet-C)에서 커버리지를 측정하여 데이터셋 이탈에 대한 강건성 평가를 수행한다.
• 표준 불확실성 정량화 기법을 사용: 딥 앙상블, 몬테카를로 드롭아웃, 스토케스틱 변분 추론(SVI), 가우시안 프로세스, 온도 스케일링.
• 예측 간격 폭을 훈련 세트의 표준편차(회귀) 또는 평균 집합 크기(분류)로 측정하여 校정 효율성(calibration efficiency) 평가.
• 실제 실무자 워크플로우를 반영하기 위해 내재된 교차검증(nested cross-validation)을 사용해 초모수를 튜닝한다.
• 커버리지, 간격 폭, 브라이어 스코어, 기대 캘리브레이션 오차(ECE)를 사용해 기법 간 일관성 평가.

실험 결과

연구 질문

• RQ1 인기 있는 불확실성 정량화 기법들이 데이터셋 이탈 상황에서도 95% 마진 커버리지를 유지하는가?
• RQ2 예측 간격 폭이 데이터셋 이탈과 커버리지 성능에 어떻게 관련되어 있는가?
• RQ3 커버리지 순위가 ECE 및 브라이어 스코어와 같은 전통적 측도와 어떻게 비교되는가?
• RQ4 어떤 불확실성 기법이 다양한 벤치마크와 이탈 수준에서 가장 강건한 커버리지를 제공하는가?
• RQ5 실세계 응용에서 예측 간격 폭이 데이터셋 이탈을 탐지하는 소프트 프록시(soft proxy)로 사용될 수 있는가?

주요 결과

• 앙상블, 온도 스케일링, 드롭아웃 기법이 SVI 및 가우시안 프로세스보다 ImageNet-C 및 CIFAR-10-C 오염 데이터에서 더 높은 커버리지를 유지했다.
• 예측 간격 폭이 증가함에도 불구하고 데이터셋 이탈 상황에서 커버리지가 심각하게 악화되어 충분한 강건성이 확보되지 않았다.
• SVI 및 LL-SVI는 특히 회귀 작업에서 가장 높은 커버리지와 가장 작은 간격 폭을 기록했다.
• MNIST에서 예측 집합의 폭은 이동 이격 정도와 0.9의 피어슨 상관계수를 보였으며, 이는 간격 폭이 분포 이탈의 프록시로 사용될 수 있음을 시사한다.
• 커버리지 순위는 ECE 및 브라이어 스코어 순위와 매우 일관되었지만, 비기술자 사용자에게 커버리지가 더 해석 가능하다고 판단되었다.
• 어떤 기법도 외분포 데이터에서 커버리지가 95%를 유지하기 위해선 간격 폭이 증가해야 했으며, 그 증가가 커버리지 수준 유지를 위해 충분하지 않았다.