[논문 리뷰] Reliable Uncertainty Estimates in Deep Neural Networks using Noise Contrastive Priors

Danijar Hafner, Dustin Tran외 3명|arXiv (Cornell University)|2018. 07. 24.

Probabilistic and Robust Engineering Design인용 수 52

한 줄 요약

이 논문은 소음 대비 사전 분포(NCPs)를 제안하며, 분포 외 입력에 대해 높은 불확실성 예측을 하도록 모델을 훈련시켜 딥 네ural 네트워크의 불확실성 추정을 향상시킨다. 입력 소음과 넓은 출력 사전 분포를 활용하여 신뢰성과 확장성을 향상시키며, 기존 방법에 비해 항공기 지연 데이터셋에서 불확실성 校정 성능을 크게 향상시킨다.

ABSTRACT

Obtaining reliable uncertainty estimates of neural network predictions is a long standing challenge. Bayesian neural networks have been proposed as a solution, but it remains open how to specify the prior. In particular, the common practice of a standard normal prior in weight space imposes only weak regularities, causing the function posterior to possibly generalize in unforeseen ways on out-of-distribution inputs. We propose noise contrastive priors (NCPs). The key idea is to train the model to output high uncertainty for data points outside of the training distribution. NCPs do so using an input prior, which adds noise to the inputs of the current mini batch, and an output prior, which is a wide distribution given these inputs. NCPs are compatible with any model that represents predictive uncertainty, are easy to scale, and yield reliable uncertainty estimates throughout training. Empirically, we show that NCPs offer clear improvements as an addition to existing baselines. We demonstrate the scalability on the flight delays data set, where we significantly improve upon previously published results.

연구 동기 및 목표

• 딥 네룰 네트워크에서 불확실성 추정이 신뢰할 수 없음을 해결하기 위해, 특히 분포 외 입력에 대해.
• 베이지안 네럴 네트워크에서 표준 정규 사전 분포의 한계를 극복하기 위해, 약한 정규성을 부여하고 일반화가 예측 불가능하게 만드는 원인을 제거하기 위해.
• 훈련 데이터 분포 외의 데이터에 직면했을 때 높은 불확실성 예측을 유도하는 확장성 있고 효과적인 방법을 개발하기 위해.
• 아키텍처 변경 없이도 예측 불확실성을 표현하는 모든 모델과 호환 가능한 사전 메커니즘을 제공하기 위해.
• 실제 대규모 데이터셋인 항공기 지연 데이터셋과 같은 실제 세계의 대규모 데이터셋에서 방법의 효과성과 확장성을 실증적으로 검증하기 위해.

제안 방법

• 각 미니배치 내에서 입력에 소음을 추가하여 분포 외 샘플을 시뮬레이션하는 입력 사전 분포를 도입하기 위해.
• 소음이 추가된 입력에 대해 예측값에 대한 넓은 분포로 출력 사전 분포를 정의하여 이러한 입력에 대해 높은 불확실성 예측을 유도하기 위해.
• 깨끗한 입력과 소음이 추가된 입력을 구분하기 위해 소음이 추가된 입력에서 불확실성을 최대화하는 소음 대비 추정 목적 함수를 사용하여 모델을 훈련하기 위해.
• 기존의 불확실성 인식 모델과 NCP 손실을 통합하여 표준 딥 러닝 프레임워크와의 호환성을 보장하기 위해.
• 결과로 도출된 손실을 통해 사후 분포를 정규화하여, OOD 입력에서 모델이 안전하고 신뢰성 있게 일반화하도록 보장하기 위해.
• 훈련 중에 복잡한 사후 근사나 추가 추론 단계를 피하여 계산 효율성을 유지하기 위해.

실험 결과

연구 질문

• RQ1 아키텍처 수정 없이도 단순하고 확장 가능한 사전 메커니즘이 딥 네럴 네트워크의 불확실성 추정을 향상시킬 수 있는가?
• RQ2 표준 사전 분포에 비해 소음 대비 사전 분포가 분포 외 입력에서의 과신을 얼마나 효과적으로 줄일 수 있는가?
• RQ3 실제 대규모 데이터셋에서 NCPs는 불확실성 校정 성능과 OOD 탐지 성능을 어느 정도 향상시키는가?
• RQ4 NCPs 접근법은 다양한 불확실성 추정 모델과 훈련 프레임워크와 호환되는가?
• RQ5 NCPs는 엔드 투 엔드로 훈련되고 대규모 데이터셋에 스케일링되면서도 훈련 전반에 걸쳐 신뢰할 수 있는 불확실성 추정을 유지할 수 있는가?

주요 결과

• NCPs는 기존에 발표된 결과를 초월하여 항공기 지연 데이터셋에서 불확실성 校정 성능을 크게 향상시켰다.
• 모델의 신뢰성을 향상시키기 위해 분포 외 입력에 대해 불확실성 추정을 높여 과신을 줄였다.
• NCPs는 예측 불확실성을 표현하는 모든 모델과 호환되어 다양한 아키텍처에 광범위하게 적용 가능하다.
• 방법은 대규모 데이터셋으로도 효율적으로 스케일링되어 소규모 벤치마크를 넘어서 실용적 유용성을 보였다.
• 입력 소음과 넓은 출력 사전 분포의 사용은 훈련 및 추론 중 더 견고하고 예측 가능한 불확실성 추정을 이끌어냈다.
• 실증 결과는 NCPs를 기존의 불확실성 기반 모델에 추가했을 때 명확한 성능 향상이 나타나, NCPs가 플러그인 형태로 효과적인 개선 도구임을 확인했다.