[논문 리뷰] Challenges in Bayesian inference via Markov chain Monte Carlo for neural networks

Theodore Papamarkou, Jacob Hinkle외 2명|arXiv (Cornell University)|2019. 10. 15.

Markov Chains and Monte Carlo Methods참고 문헌 10인용 수 8

한 줄 요약

이 논문은 신경망, 특히 다층 퍼셉트론에서 베이지안 추론을 위한 마르코프 체인 몬테카를로(MCMC) 방법을 적용할 때의 핵심 과제를 규명하고 분석한다. 무게 대칭성으로 인한 매개변수의 식별 불가능성, 사전 분포에 대한 민감성, 높은 계산 비용 등의 문제를 제기하며, 이를 인구 및 다양체 MCMC 알고리즘을 통해 입증함으로써 사후 공분산 추정의 한계를 드러내고, 확장 가능한 근사 추론 방법의 필요성을 제기한다.

ABSTRACT

Markov chain Monte Carlo (MCMC) methods and neural networks are instrumental in tackling inferential and prediction problems. However, Bayesian inference based on joint use of MCMC methods and of neural networks is limited. This paper reviews the main challenges posed by neural networks to MCMC developments, including lack of parameter identifiability due to weight symmetries, prior specification effects, and consequently high computational cost and convergence failure. Population and manifold MCMC algorithms are combined to demonstrate these challenges via multilayer perceptron (MLP) examples and to develop case studies for assessing the capacity of approximate inference methods to uncover the posterior covariance of neural network parameters. Some of these challenges, such as high computational cost arising from the application of neural networks to big data and parameter identifiability arising from weight symmetries, stimulate research towards more scalable approximate MCMC methods or towards MCMC methods in reduced parameter spaces.

연구 동기 및 목표

• 신경망이 마르코프 체인 몬테카를로(MCMC) 방법의 베이지안 추론에 놓는 기본 과제를 조사하는 것.
• 무게 대칭성으로 인한 매개변수의 식별 불가능성이 MCMC 수렴 및 사후 탐색에 미치는 영향을 검토하는 것.
• 사전 분포 설정이 신경망에서 MCMC 성능과 사후 불확실성 측정에 미치는 영향을 평가하는 것.
• 딥 러닝 환경에서, 특히 대규모 데이터와 함께 MCMC의 계산 비용과 확장성 평가.
• 더 확장 가능한 근사 MCMC 또는 감소된 매개변수 공간 MCMC 방법의 개발을 촉진하는 것.

제안 방법

• 고차원 신경망 매개변수 공간에서 혼합과 수렴을 향상시키기 위해 인구 MCMC를 적용한다.
• 복잡한 사후 기하학을 탐색하고 샘플링 효율을 향상시키기 위해 다양체 MCMC를 통합한다.
• 이러한 병합 알고리즘을 사례 연구로 다층 퍼셉트론(MLP) 모델에 적용한다.
• 얻어진 샘플을 사용해 신경망 매개변수의 사후 공분산 구조를 평가한다.
• 다양한 사전 분포와 데이터 규모에서 MCMC 방법의 성능을 비교한다.
• 다양한 네트워크 아키텍처와 데이터셋 크기에서 수렴 행동과 계산 비용을 분석한다.

실험 결과

연구 질문

• RQ1 신경망의 무게 대칭성은 MCMC 샘플링과 사후 추정에 어떻게 악영향을 미치는가?
• RQ2 사전 분포 설정이 신경망에서 MCMC 수렴과 사후 불확실성에 얼마나 큰 영향을 미치는가?
• RQ3 대규모 데이터셋을 사용할 경우 신경망에서 MCMC 추론의 계산 비용은 어느 정도인가?
• RQ4 인구 및 다양체 MCMC 방법은 신경망 매개변수의 사후 분포 탐색에 얼마나 효과적인가?
• RQ5 근사 추론 방법은 신경망에서 진짜 사후 공분산 구조를 효과적으로 복원할 수 있는가?

주요 결과

• 신경망의 무게 대칭성은 식별 불가능한 매개변수를 초래하여 MCMC 체인이 등가의 모드를 탐색하게 하고 수렴을 악화시킨다.
• 사전 분포는 MCMC 성능에 상당한 영향을 미치며, 부적절하거나 정보가 없는 사전 분포는 수렴 문제를 악화시키고 계산 비용을 증가시킨다.
• 대규모 데이터셋에서는 신경망에서 MCMC의 계산 비용이 여전히 지나치게 높아 실용적 적용을 제한한다.
• 인구 및 다양체 MCMC 방법은 혼합과 사후 탐색을 향상시키지만, 여전히 식별 가능성과 수렴 문제를 완전히 해결하지 못한다.
• 저열한 혼합과 모드 붕괴로 인해 고차원 신경망 환경에서는 MCMC를 통한 사후 공분산 추정이 신뢰할 수 없다.
• 이러한 발견은 실현 가능한 베이지안 딥 러닝을 가능하게 하기 위해 확장 가능한 근사 MCMC 또는 차원 축소 기법의 필요성을 강조한다.