[논문 리뷰] Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning

Yarin Gal, Zoubin Ghahramani|arXiv (Cornell University)|2015. 06. 06.

Gaussian Processes and Bayesian Inference참고 문헌 36인용 수 4,095

한 줄 요약

이 논문은 드롭아웃이 심층 신경망에서 Bayesian 추론을 깊은 가우시안 프로세스에서 근사하는 방식임을 보여주며, 모델 불확실성의 실용적 추정이 가능하고 회귀, 분류 및 강화 학습 과제에서 예측 가능도와 RMSE를 개선한다.

ABSTRACT

Deep learning tools have gained tremendous attention in applied machine learning. However such tools for regression and classification do not capture model uncertainty. In comparison, Bayesian models offer a mathematically grounded framework to reason about model uncertainty, but usually come with a prohibitive computational cost. In this paper we develop a new theoretical framework casting dropout training in deep neural networks (NNs) as approximate Bayesian inference in deep Gaussian processes. A direct result of this theory gives us tools to model uncertainty with dropout NNs -- extracting information from existing models that has been thrown away so far. This mitigates the problem of representing uncertainty in deep learning without sacrificing either computational complexity or test accuracy. We perform an extensive study of the properties of dropout's uncertainty. Various network architectures and non-linearities are assessed on tasks of regression and classification, using MNIST as an example. We show a considerable improvement in predictive log-likelihood and RMSE compared to existing state-of-the-art methods, and finish by using dropout's uncertainty in deep reinforcement learning.

연구 동기 및 목표

• 회귀, 분류 및 강화 학습을 위한 딥 러닝에서 모델 불확실성을 표현할 필요성에 대한 동기 부여.
• 드롭아웃을 딥 가우시안 프로세스에 대한 Bayesian 근사로 해석할 수 있음을 보인다.
• 기존 드롭아웃 네트워크에서 불확실성을 추출하고 활용하기 위한 실용 도구를 개발한다.
• 회귀 및 MNIST 분류 작업에서 아키텍처와 비선형성에 따른 불확실성 추정치를 평가한다.

제안 방법

• 드롭아웃 학습을 딥 가우시안 프로세스에서의 근사 Bayesian 추론으로 해석한다.
• Bernoulli 드롭아웃 마스크를 이용한 희소 스펙트럼 구성요소에 대한 변분 분포를 사용하여 후방을 근사한다.
• 드롭아웃을 GP 기반 후방과 연관시키는 KL-발산 목표(Eq. 3 및 4 텍스트)를 형식화한다.
• 드롭아웃 마스크를 샘플링하여 예측 평균과 분산을 추정하는 Monte Carlo dropout(MC dropout)을 도출한다(Eq. 6 및 7).
• MC 순전파를 통한 예측 대가능 로그 가능도와 불확실성을 계산하는 실용적 절차를 제공한다.

실험 결과

연구 질문

• RQ1 드롭아웃을 딥 모델에서 불확실성을 표현하기 위한 Bayesian 근사로 해석할 수 있는가?
• RQ2 아키텍처나 학습 절차를 바꾸지 않고 표준 드롭아웃 네트워크에서 예측 불확실성을 어떻게 정량화할 수 있는가?
• RQ3 다른 방법과 비교하여 MC dropout의 불확실성 추정이 회귀, 분류, RL 등 과제에서 예측 가능도와 RMSE를 개선하는가?
• RQ4 드롭아웃에서 파생된 불확실성은 다양한 아키텍처와 비선형성(ReLU, TanH, convnets) 및 데이터 상황에서 어떻게 작용하는가?

주요 결과

• 드롭아웃 신경망은 심층 가우시안 프로세스에서의 근사 추론으로 볼 수 있어 추가 계산 부담 없이 불확실성 정량화가 가능하다.
• MC dropout은 여러 개의 확률적 순전파를 평균화하여 예측 평균과 분산의 실용적 추정치를 제공한다.
• 드롭아웃에서의 불확실성은 회귀 벤치마크에서 예측 가능도와 RMSE를 향상시키며(예: MNIST 기반 분류 및 표준 데이터셋에 대해), 여러 베이스라인과 비교하여 개선된다.
• 드롭아웃에서 얻은 불확실성 정보는 강화 학습에서 탐색을 안내하는 데 활용될 수 있다(예: Thompson 샘플링).
• 아키텍처와 비선형성에 걸쳐 드롭아웃 파생 불확실성은 특히 분류 작업과 외삽 시나리오에서 유용하다.