[논문 리뷰] Structured Variational Learning of Bayesian Neural Networks with Horseshoe Priors

Soumya Ghosh, Jiayu Yao외 1명|arXiv (Cornell University)|2018. 06. 13.

Adversarial Robustness in Machine Learning참고 문헌 32인용 수 27

한 줄 요약

이 논문은 구조적 변분 추론과 정규화된 말뚝모양 사전을 활용한 베이지안 신경망을 제안하며, 예측 성능를 유지하면서 불필요한 노드를 제거하여 자동으로 모델 압축을 가능하게 한다. 계층적 사전과 사후 분포에 대한 구조 인식 추정을 통해 저자료 환경, 예를 들어 강화학습에서 최신 기술 수준의 압축과 일반화 성능을 달성한다.

ABSTRACT

Bayesian Neural Networks (BNNs) have recently received increasing attention for their ability to provide well-calibrated posterior uncertainties. However, model selection---even choosing the number of nodes---remains an open question. Recent work has proposed the use of a horseshoe prior over node pre-activations of a Bayesian neural network, which effectively turns off nodes that do not help explain the data. In this work, we propose several modeling and inference advances that consistently improve the compactness of the model learned while maintaining predictive performance, especially in smaller-sample settings including reinforcement learning.

연구 동기 및 목표

• 베이지안 신경망(BNN)의 모델 선택 과제, 특히 은닉 유닛의 최적 수를 선택하는 데에 도전한다.
• 과적합과 높은 불확실성이 흔한 소표본 환경, 예를 들어 강화학습에서의 일반화 및 예측 성능 향상을 도모한다.
• 불필요한 노드를 식별하고 제거하여 계산 효율적인 자동 네트워크 압축 방법을 개발한다.
• 기존 변분 추론 접근법의 한계를 극복하기 위해 중요한 사후 상관관계를 유지한다.

제안 방법

• 노드의 전활성화에 대해 계층적 전역 압축과 단위별 국소 척도를 갖춘 정규화된 말뚝모양 사전을 도입하여 자동 희박성 구현.
• 최적화 안정성을 향상시키고 낮은 국소 최적값을 피하기 위해 말뚝모양 사전의 비중앙 파arameterization을 사용.
• 가중치와 하이퍼파rameter 간의 의존성을 유지하는 구조적 변분 근사법을 적용하여 사후 근사 품질 향상.
• 사후 분포의 점 요약이 필요 없이 직접 모델 압축이 가능한, 새로운 노드 제거 기준을 적용.
• 반환형 감마 하이퍼사전을 사용해 반정규분포를 재정의하여 수치적 안정성과 수렴성 향상.
• 구조적 변분 추론과 재정의 기법을 조합하여 확률적 경사 하강법을 통한 엔드 투 엔드 학습 가능.

실험 결과

연구 질문

• RQ1 정규화된 말뚝모양 사전가 자동으로 데이터 기반의 모델 선택을 가능하게 하여 BNN에서 불필요한 노드를 식별하고 제거할 수 있는가?
• RQ2 기존의 변분 방법(예: 행렬 가우시안 근사)과 비교해 볼 때, 말뚝모양 사전를 활용한 구조적 변분 추론는 예측 성능와 모델의 압축성에서 어떻게 다른가?
• RQ3 제안된 방법은 제한된 롤아웃 수를 가진 모델 기반 강화학습과 같은 저자료 환경에서 일반화 성능을 향상시키는가?
• RQ4 기존 방법이 사후 평균의 점 추정에 의존하는 것과 달리, 제안된 노드 제거 기준은 성능 면에서 뛰어나게 작용하는가?
• RQ5 계층적 사전과 구조적 근사의 조합이 사후 불확실성 캘리브레이션과 예측 분산에 어떤 영향을 미치는가?

주요 결과

• 다양한 UCI 회귀 데이터셋에서 구조적 정규화된 말뚝모양 BNN(reg-HS)은 매트릭스 가우시안 변분 방법(VMG)과 비교해 경쟁적 또는 더 뛰어난 예측 성능를 기록한다.
• reg-HS 모델은 예측 정확도를 유지하면서 최대 90%의 노드를 제거하여 상당한 모델 압축을 달성했으며, 효과적인 자동 아키텍처 선택을 입증한다.
• 저자료 환경(학습 데이터의 10%)에서 reg-HS는 VMG보다 예측 성능에서 뛰어나며, 과적합과 불확실성 분산을 줄이는 데에 유의미한 효과가 있다.
• 강화학습 과제에서 reg-HS BNN은 평균 보상이 더 높고(예: 2D 지도에서 995.4 vs. 975.4), 테스트 RMSE도 낮아, 제한된 데이터에서 더 나은 정책 학습을 가능하게 한다.
• 제안된 제거 기준은 사후의 점 요약이 필요 없이 비활성 노드를 성공적으로 식별하고 제거하여 직접적이고 효율적인 압축을 가능하게 한다.
• 압축된 모델의 미세조정은 성능에 거의 영향을 주지 않아, 구조적 변분 근사가 이미 강건하고 압축된 모델을 제공하고 있음을 시사한다.