[논문 리뷰] Uncertainty in Neural Networks: Approximately Bayesian Ensembling

Tim Pearce, Felix Leibfried외 3명|arXiv (Cornell University)|2018. 10. 12.

Reservoir Engineering and Simulation Methods참고 문헌 25인용 수 38

한 줄 요약

이 논문은 신경망 가중치를 사전 분포에서 추출한 샘플 주변으로 정규화하는 방법인 앵커드 엔셈블링을 제안한다. 이는 베이지안 추론을 근사하는 데 기여한다. 표준 엔셈블링에 파rameter 정규화를 도입함으로써, 베이지안 방법에 가까운 불확실성 추정을 달성하며, 실험적으로 표준 엔셈블링을 능가하고 변분 추론과 동등한 성능을 보였다. 이는 회귀, 분류, 강화 학습 작업 전반에서 성능을 발휘했다.

ABSTRACT

Understanding the uncertainty of a neural network's (NN) predictions is essential for many purposes. The Bayesian framework provides a principled approach to this, however applying it to NNs is challenging due to large numbers of parameters and data. Ensembling NNs provides an easily implementable, scalable method for uncertainty quantification, however, it has been criticised for not being Bayesian. This work proposes one modification to the usual process that we argue does result in approximate Bayesian inference; regularising parameters about values drawn from a distribution which can be set equal to the prior. A theoretical analysis of the procedure in a simplified setting suggests the recovered posterior is centred correctly but tends to have an underestimated marginal variance, and overestimated correlation. However, two conditions can lead to exact recovery. We argue that these conditions are partially present in NNs. Empirical evaluations demonstrate it has an advantage over standard ensembling, and is competitive with variational methods.

연구 동기 및 목표

• 실제 응용 분야(예: 주도 학습 및 공격에 대한 강건성)에서 핵심적인 역할을 하는 딥 신경망의 불확실성 정량화 문제를 해결하기 위함.
• 대규모 모델에 대해 계산적으로 비가능한 정교한 베이지안 추론과 실용적인 엔셈블링 방법 사이의 격차를 메우기 위함.
• 파라미터 정규화를 통해 신경망에서 베이지안 사후 분포 추론을 근사하는 가용성 있고 확장 가능한 방법을 개발하기 위함.
• 앵커드 엔셈블링이 진정한 사후 분포를 복원하는 조건을 이론적으로 분석하고, 표준 엔셈블링 및 변분 추론과의 비교를 통해 실증적으로 성능을 검증하기 위함.

제안 방법

• 앵커드 엔셈블링은 사전 분포에서 추출한 값 주변으로 네트워크 파라미터를 끌어당기는 정규화 항을 도입하여, 랜덤라이즈드 MAP 샘플링(RMS)을 효과적으로 구현한다.
• 이 방법은 사전 분포에서 앵커 파라미터를 추출하고, 앙상블의 각 네트워크를 이러한 앵커 주변으로 정규화된 손실 함수를 최소화하도록 훈련시킨다.
• 이론적 분석 결과, 다변량 정규 분포 가정 하에, 이 방법은 정확한 사후 평균을 복원하지만, 변량 분산은 과소평가하고 상관관계는 과대평가한다.
• 정확한 사후 복원은 두 조건에서 달성된다: 완전히 상관된 파라미터 또는 무한한 변량 우도 분산을 가진 파라미터('외삽 파라미터')일 경우.
• 이 방법은 파라미터 공간의 추상화를 통해 분류 작업으로도 확장되어, 회귀를 초월한 응용이 가능해졌다.
• 실증 평가는 회귀, 이미지 분류(CIFAR-10, MNIST), 감성 분석(IMDb), 강화 학습(FetchPush) 분야의 표준 벤치마크를 사용하여 표준 엔셈블링 및 변분 추론과 비교하였다.

실험 결과

연구 질문

• RQ1 표준 엔셈블링에 사전 분포에서 추출한 샘플 주변으로 파라미터를 정규화하는 단순한 수정을 가미하면, 베이지안 추론을 근사하는 데 유사한 불확실성 추정을 얻을 수 있는가?
• RQ2 앵커드 엔셈블링이 정확히 진정한 사후 분포를 복원하는 이론적 조건은 무엇인가?
• RQ3 다양한 작업에서 앵커드 엔셈블링은 표준 엔셈블링 및 변분 추론에 비해 예측 불확실성과 정확도 측면에서 어떻게 비교되는가?
• RQ4 정확한 사후 복원을 위한 이론적 조건(완전한 상관관계 또는 무한한 분산)이 실제 신경망에서 어느 정도 만족되는가?

주요 결과

• 시각화 결과 여러 작업에서 앵커드 엔셈블링이 가우시안 프로세스 및 정확한 베이지안 방법의 예측 분포와 유사한 결과를 도출함을 확인했다.
• 특히 분포 외 데이터 탐지 및 일반화 성능에서 표준 엔셈블링보다 뚜렷이 뛰어난 불확실성 추정 성능을 보였다.
• CIFAR-10에서 앵커드 엔셈블링은 변분 추론과 유사한 테스트 정확도를 달성했으며, 더 나은 불확실성 캘리브레이션 성능도 보였다.
• FetchPush 강화 학습 환경에서, 이 방법은 더 효과적인 탐색과 표준 엔셈블링보다 높은 최종 누적 보상치를 달성했다.
• 실증 결과로, 앵커드 엔셈블링이 회귀 및 분류 작업 전반에서 최신 변분 추론 방법과 경쟁 가능한 성능을 보였음을 확인했다.
• 이론적 분석을 통해, 이 방법이 일반적으로 분산을 과소평가하고 상관관계를 과대평가하지만, 정확한 사후 복원을 위한 두 조건이 신경망에서 부분적으로 만족됨을 확인했으며, 이는 뛰어난 실증 성능을 설명한다.