[논문 리뷰] NOMU: Neural Optimization-based Model Uncertainty

Jakob Heiss, Jakob Weissteiner외 3명|Zurich Open Repository and Archive (University of Zurich)|2021. 02. 26.

Adversarial Robustness in Machine Learning참고 문헌 40인용 수 5

한 줄 요약

NOMU는 모델 불확실성 추정을 위해 예측 헤드와 전용 불확실성 헤드를 함께 훈련시키는 고유한 손실 함수를 사용하는 새로운 신경망 아키텍처이다. 이는 신뢰할 수 있는 불확실성 정량화를 위한 다섯 가지 핵심 바람직한 조건을 충족시킨다. NOMU는 회귀 및 노이즈 없는 베이지안 최적화에서 MC Dropout, 딥 앙상블, 하이퍼-딥 앙상블을 모두 능가하며, 특히 불확실성 캘리브레이션의 중요성이 높은 저자료, 저노이즈 환경에서 뛰어난 성능을 보인다.

ABSTRACT

We study methods for estimating model uncertainty for neural networks (NNs) in regression. To isolate the effect of model uncertainty, we focus on a noiseless setting with scarce training data. We introduce five important desiderata regarding model uncertainty that any method should satisfy. However, we find that established benchmarks often fail to reliably capture some of these desiderata, even those that are required by Bayesian theory. To address this, we introduce a new approach for capturing model uncertainty for NNs, which we call Neural Optimization-based Model Uncertainty (NOMU). The main idea of NOMU is to design a network architecture consisting of two connected sub-NNs, one for model prediction and one for model uncertainty, and to train it using a carefully-designed loss function. Importantly, our design enforces that NOMU satisfies our five desiderata. Due to its modular architecture, NOMU can provide model uncertainty for any given (previously trained) NN if given access to its training data. We evaluate NOMU in various regressions tasks and noiseless Bayesian optimization (BO) with costly evaluations. In regression, NOMU performs at least as well as state-of-the-art methods. In BO, NOMU even outperforms all considered benchmarks.

연구 동기 및 목표

• 저자료, 노이즈 없는 환경에서 모델 불확실성이 지배적인 상황에서 신뢰할 수 있는 신경망의 불확실성 추정이 부족한 문제를 해결하기 위해.
• 모델 불확실성 구간이 따라야 할 다섯 가지 핵심 바람직한 조건을 식별하고 형식화하기 위해, 예를 들어 훈련 데이터 포인트에서의 적절한 행동과 외삽 영역에서의 적절한 스케일링을 포함한다.
• 기존 방법(예: MC Dropout, 앙상블 방법 등)의 한계를 극복하기 위해 이러한 바람직한 조건을 체계적으로 충족시키는 방법을 개발하기 위해.
• 기존에 훈련된 신경망에 대해 훈련 데이터를 사용하여 재학습 없이 적용 가능한 확장성 있고 모듈러한 솔루션을 만들기 위해.

제안 방법

• NOMU는 예측을 위한 헤드와 불확실성 추정을 위한 헤드를 갖춘 이중 헤드 신경망 아키텍처를 사용한다.
• 불확실성 헤드는 원시 불확실성 점수를 출력하며, 이는 양수성과 수치적 안정성을 보장하기 위해 학습 가능한 읽기 맵 φ(z) = ℓ_max(1 − exp(−(max(0,z) + ℓ_min)/ℓ_max))를 통해 변환된다.
• 다섯 가지 바람직한 조건을 강제하기 위해 고안된 고유한 손실 함수가 사용된다. 이는 관측된 데이터 포인트에서 불확실성 감소 및 분포 외 영역에서의 적절한 스케일링을 포함한다.
• 이 방법은 엔드 투 엔드로 훈련 가능하며, 훈련 데이터를 사용하여 기존에 훈련된 모델에 사후 적용이 가능하다.
• 읽기 맵의 매개변수 ℓ_min 및 ℓ_max는 안정성 확보를 위해 고정되거나 검증 세트 최적화를 통해 학습된다.

실험 결과

연구 질문

• RQ1 기존 최신 기술의 불확실성 추정 방법들이 훈련 포인트에서의 불확실성 감소와 같은 기본 바람직한 조건을 신뢰성 있게 충족하는가?
• RQ2 베이지안 사후 근사에 의존하지 않고도 모델 불확실성의 핵심 성질을 체계적으로 강제할 수 있는 신경망 아키텍처를 설계할 수 있는가?
• RQ3 저자료, 노이즈 없는 회귀 작업에서 NOMU는 MC Dropout, 딥 앙상블, 하이퍼-딥 앙상블에 비해 어떻게 성능을 내는가?
• RQ4 비용이 많이 드는 평가가 필요한 베이지안 최적화에서 정확한 불확실성 추정이 중요한 상황에서 NOMU는 성능 향상에 기여하는가?

주요 결과

• NOMU는 훈련 포인트에서의 적절한 불확실성 감소 및 분포 외 영역에서의 적절한 스케일링을 포함하여 다섯 가지 바람직한 조건을 일관되게 충족시킨다.
• MC Dropout과 달리 NOMU는 관측된 데이터 포인트에서 불확실성 범위가 좁아지며, 이는 활성 학습에서 성능을 떨어뜨리는 튜브형 범위를 피한다.
• 희소하고 노이즈 없는 데이터를 가진 회귀 작업에서는 NOMU가 최신 기술과 비슷하거나 더 나은 성능을 보이며, 더 신뢰할 수 있는 불확실성 캘리브레이션을 제공한다.
• 노이즈 없는 베이지안 최적화에서 NOMU는 MC Dropout, 딥 앙상블, 하이퍼-딥 앙상블을 크게 능가하며, 더 뛰어난 탐색 효율성을 보여준다.
• NOMU의 모듈러한 설계 덕분에 기존에 훈련된 신경망에 대해 재학습 없이도 적용 가능하여, 불확실성 추정을 가능하게 한다.