[논문 리뷰] Efficient Gradient-Based Inference through Transformations between Bayes Nets and Neural Nets

Diederik P. Kingma, Max Welling|arXiv (Cornell University)|2014. 02. 03.

Gaussian Processes and Bayesian Inference참고 문헌 32인용 수 39

한 줄 요약

이 논문은 베이지안 네트워크와 신경망에서 잠재 변수의 중심화된 형태와 비중앙화된 형태 간의 미분 가능한 재매개변수화 기법을 소개한다. 이는 기울기 기반 추론을 효율적으로 가능하게 한다. 주요 기여는 비중앙화된 매개변수화가 사후 상관관계를 감소시키고, 특히 고차원 또는 높은 상관관계를 가지는 모델에서 샘플링 효율성을 향상시킨다는 것을 보여주는 것이다.

ABSTRACT

Hierarchical Bayesian networks and neural networks with stochastic hidden units are commonly perceived as two separate types of models. We show that either of these types of models can often be transformed into an instance of the other, by switching between centered and differentiable non-centered parameterizations of the latent variables. The choice of parameterization greatly influences the efficiency of gradient-based posterior inference; we show that they are often complementary to eachother, we clarify when each parameterization is preferred and show how inference can be made robust. In the non-centered form, a simple Monte Carlo estimator of the marginal likelihood can be used for learning the parameters. Theoretical results are supported by experiments.

연구 동기 및 목표

• 고차원 또는 높은 사후 상관관계를 가지는 계층적 베이지안 네트워크와 딥 생성 모델에서 기울기 기반 추론의 비효율성 문제를 해결한다.
• 연속적인 잠재 변수의 재매개변수화를 통해 베이지안 네트워크와 신경망 간의 이중성(duality)을 탐색한다.
• 비중앙화된 매개변수화(DNCP)가 사후 종속성을 감소시키고 샘플링 효율성을 향상시킨다는 것을 입증한다.
• 다양한 모델 영역에서 효율성을 유지하기 위해 매개변수화 방식을 전환하는 강력한 추론 전략을 개발한다.
• 딥 생성 모델에서 엔드 투 엔드 학습을 위한 미분 가능한 주변 가능도 추정을 가능하게 한다.

제안 방법

• 잠재 변수를 노이즈 변수와 매개변수의 결정적 함수로 표현하는 미분 가능한 비중앙화 매개변수화(DNCP)를 도입한다: $\mathbf{z}_j = g_j(\mathbf{pa}_j, \boldsymbol{\epsilon}_j, \boldsymbol{\theta})$.
• 재매개변수화 기법을 사용하여 공동 로그가능도를 모델 매개변수에 대해 미분 가능하게 하여 역전파를 가능하게 한다.
• 부드러운 기울기를 활용하기 위해 하이브리드 몬테카를로(HMC) 및 no-U-turn 샘플러를 DNCP 형태에서 사후 추론에 적용한다.
• 모델 매개변수에 대해 미분 가능한 주변 가능도의 몬테카를로 추정기를 사용하여 기울기 상승을 통한 매개변수 학습을 수행한다.
• 고상관관계 영역에서 혼합 효과를 높이기 위해 중심화된 형태와 비중앙화된 형태를 번갈아 가며 사용하는 혼합 MCMC 전략을 설계한다.
• MNIST에서 딥 생성 모델을 훈련하기 위해 최대 몬테카를로 가능도(MMCL)와 MCEM을 구현하고 비교한다.

실험 결과

연구 질문

• RQ1 계층 모델에서 잠재 변수의 매개변수화 방식은 사후 상관관계에 어떻게 영향을 미치는가?
• RQ2 비중앙화된 매개변수화가 기울기 기반 추론에서 사후 종속성을 감소시키고 샘플링 효율성을 향상시킬 수 있는가?
• RQ3 비중앙화된 매개변수화가 중심화된 형태보다 더 효과적인 상황은 어떤가?
• RQ4 매개변수화 방식을 전환하는 하이브리드 MCMC 전략이 고차원 모델에서 안정성과 혼합 성능을 향상시킬 수 있는가?
• RQ5 다양한 주변 가능도 추정 방식의 성능가 MCEM과 비교해 볼 때 딥 생성 모델에서 어떤가?

주요 결과

• 잠재 변수가 부모 변수에 강하게 영향을 받을 경우, 비중앙화된 매개변수화(DNCP)는 사후 상관관계를 크게 감소시키며 HMC의 혼합 속도를 높인다.
• 잠재 변수의 분산이 매우 작아질 경우($\sigma_z^2 \to 0$), 중심화된 매개변수화(CP)는 매우 높은 사후 상관관계를 보이며 HMC 혼합 속도가 느려진다.
• DNCP 형태는 단순한 주변 가능도의 몬테카를로 추정기를 통해 모델 매개변수에 대해 미분 가능한 방식으로 기울기 기반 학습을 가능하게 한다.
• 500개의 샘플을 사용한 MMCL은 MNIST에서 경쟁적인 주변 가능도를 달성하였으며, 훈련 속도와 대규모 데이터셋에 대한 확장성 면에서 MCEM을 능가하였다.
• 고차원 잠재 공간에서 혼합 속도가 느리더라도, 동일한 설정에서 DNCP는 CP보다 더 나은 수렴 성능을 보였다.
• 이론적 분석을 통해 CP와 DNCP의 사후 상관관계가 상호 보완적임을 확인하였다: 한쪽에서는 높고, 다른 쪽에서는 낮으며, 이는 매개변수화 전환을 통한 강력한 MCMC 성능 향상이 가능함을 시사한다.