[논문 리뷰] Noise Contrastive Priors for Functional Uncertainty

Danijar Hafner, Dustin Tran외 3명|arXiv (Cornell University)|2018. 07. 24.

Machine Learning and Algorithms참고 문헌 53인용 수 22

한 줄 요약

이 논문은 입력 공간에서의 노이즈 대비 사전 분포(NCPs)를 도입하여, 오차 분포(OOD) 입력에 대해 높은 불확실성 예측을 유도함으로써 신경망의 불확실성 추정을 향상시키는 방법을 제안한다. NCPs는 베이지안 신경망과 OOD 분류기에서 불확실성 추정을 개선하고, 주로 대규모 회귀 과제인 항공기 지연 예측과 같은 과제에서 상태최저 성능을 달성하며, NLPD와 RMSE가 낮아 향상된 활성 학습 성능을 보인다.

ABSTRACT

Obtaining reliable uncertainty estimates of neural network predictions is a long standing challenge. Bayesian neural networks have been proposed as a solution, but it remains open how to specify their prior. In particular, the common practice of an independent normal prior in weight space imposes relatively weak constraints on the function posterior, allowing it to generalize in unforeseen ways on inputs outside of the training distribution. We propose noise contrastive priors (NCPs) to obtain reliable uncertainty estimates. The key idea is to train the model to output high uncertainty for data points outside of the training distribution. NCPs do so using an input prior, which adds noise to the inputs of the current mini batch, and an output prior, which is a wide distribution given these inputs. NCPs are compatible with any model that can output uncertainty estimates, are easy to scale, and yield reliable uncertainty estimates throughout training. Empirically, we show that NCPs prevent overfitting outside of the training distribution and result in uncertainty estimates that are useful for active learning. We demonstrate the scalability of our method on the flight delays data set, where we significantly improve upon previously published results.

연구 동기 및 목표

• 신경망에서 오차 분포(OOD) 입력에 대해 신뢰할 수 없는 불확실성 추정 문제를 해결한다.
• 가중치 공간에서의 표준 독립 정규 사전 분포가 기능 공간의 불확실성에 효과적으로 제약을 걸지 못하는 한계를 극복한다.
• 모델 재파arameterization이 복잡하지 않은, 확장 가능한 입력 공간 기반의 사전 분포를 개발하여 OOD 입력에서 높은 불확실성 예측을 유도한다.
• 모델이 정보가 풍부하고 불확실성이 높은 데이터 포인트를 식별하고 우선순위를 정함으로써 활성 학습 성능을 향상시킨다.
• 비행 지연 예측과 같은 대규모 회귀 벤치마크에서 메서드의 확장성과 강건성을 입증한다.

제안 방법

• 입력 노이즈 주입을 통한 입력 공간 사전 분포 도입: 각 미니배치에서 입력 데이터에 대칭 분포(예: 정규 또는 균일 분포)에서 추출한 노이즈로 흐리게 처리한다.
• 청정 입력과 노이즈가 더해진 입력을 구분하도록 대비 목적함을 사용하여 모델을 훈련함으로써, 노이즈가 더해진(=OOD 유사) 입력에 대해 더 높은 불확실성 예측을 유도한다.
• 노이즈가 더해진 입력에 대해 넓은 출력 사전 분포(예: 넓은 정규 분포)를 결합하여 OOD 영역에서 예측 분산이 높아지도록 보장한다.
• 결과적으로 도출된 불확실성 추정치를 사전 불확실성의 대체 지표로 사용하여, 더 나은 활성 학습과 OOD 탐지 성능을 달성한다.
• 구조적 변경 없이도 기존의 불확실성 인식 모델(예: 베이지안 신경망(BBB) 및 오차 분포 분류기(ODC))에 NCPs를 통합한다.
• 청정 입력의 로그우도를 최대화하고 노이즈 입력의 로그우도를 최소화하는 방식으로, NCE 스타일의 손실 함수를 사용하여 데이터 공간 내에서 기능 사전 분포를 효과적으로 학습한다.

실험 결과

연구 질문

• RQ1 입력 공간 기반 사전 분포가 오차 분포 입력에 대해 신경망의 불확실성 추정을 향상시킬 수 있는가?
• RQ2 기존의 가중치 공간 사전 분포와 비교했을 때, 제안된 NCP 방법은 OOD 일반화 및 활성 학습 성능에서 어떤가?
• RQ3 NCP 방법은 입력 노이즈 분포 및 분산의 변화에 대해 강건한가?
• RQ4 NCPs는 수십만 개의 훈련 예제를 포함하는 대규모 회귀 과제에 효과적으로 스케일링될 수 있는가?
• RQ5 NCPs의 통합으로 예측 분포에서 사전 불확실성과 이종 노이즈를 효과적으로 분리할 수 있는가?

주요 결과

• NCPs는 베이지안 신경망과 오차 분포 분류기에서 불확실성 추정을 크게 향상시켜 OOD 입력에 대한 과도한 확신을 감소시킨다.
• 비행 지연 데이터셋에서 BBB+NCP와 ODC+NCP는 각각 NLPD 4.38과 RMSE 24.71, 24.68을 기록하여 이전 방법들을 능가하는 최고 수준의 성능을 달성한다.
• NCPs 방법은 정보가 풍부하고 불확실성이 높은 샘플을 선택할 수 있도록 하여 활성 학습 성능을 향상시키며, 수렴 속도 향상과 더 나은 일반화 성능을 이끌어낸다.
• NCPs는 입력 노이즈 분산과 분포의 변화에 대해 강건하여, 다양한 노이즈 패턴(예: σ² ∈ [0.1, 1.0] 범위의 균일 또는 정규 노이즈)에서도 일관된 성능을 유지한다.
• 대규모 회귀 과제에서 NCPs는 70만 개의 훈련 예제까지 효과적으로 스케일링되어 실생활 산업 응용의 가능성을 입증한다.
• 예측 분포의 시각화를 통해 사전 불확실성과 이종 노이즈 성분이 명확히 분리됨을 확인하여, 메서드가 두 성분을 효과적으로 분리함을 입증한다.