[논문 리뷰] Stochastic Gradient VB and the Variational Auto-Encoder

Diederik P. Kingma, Max Welling|arXiv (Cornell University)|2013. 12. 20.

Gaussian Processes and Bayesian Inference참고 문헌 17인용 수 232

한 줄 요약

이 논문은 연속적인 잠재 변수와 추론이 불가능한 사후 분포를 가진 방향적 확률 모델에서 파라미터를 학습하는 데 도전하는 문제를 해결하기 위해 스케일러블한 알고리즘인 Stochastic Gradient Variational Bayes(SGVB)를 소개한다. 이 알고리즘은 독립적인 노이즈 변수를 사용하여 변분 하한을 재구성함으로써, 확률적 노드를 통해 순방향 전파를 허용하고, 기저 모델과 인식 모델 양쪽 모두에 대해 기울기 기반 최적화를 가능하게 한다. 이는 정확한 사후 분포가 존재하지 않는 경우나 대규모 데이터셋을 다룰 때도 효과적으로 작동한다.

ABSTRACT

Can we efficiently learn the parameters of directed probabilistic models, in the presence of continuous latent variables with intractable posterior distributions, and large datasets? We introduce an unsupervised on-line learning algorithm that efficiently optimizes the variational lower bound on the marginal likelihood and that, under some mild conditions, even works in the intractable case. The algorithm, Stochastic Gradient Variational Bayes (SGVB), optimizes a probabilistic encoder (also called a recognition model) to approximate the intractable posterior distribution of the latent variables. Crucial is a reparameterization of the variational bound with an independent noise variable, yielding a stochastic objective function which can be jointly optimized w.r.t. variational and generative parameters using standard gradient-based stochastic optimization methods. Theoretical advantages are reflected in experimental results.

연구 동기 및 목표

• 연속적인 잠재 변수와 추론이 불가능한 사후 분포를 가진 방향적 확률 모델에서 파라미터를 학습하는 데 도전하는 문제를 해결하기 위해.
• 대규모 데이터셋에 적합한 효율적이고 온라인 학습 알고리즘을 개발하기 위해.
• 기울기 기반 방법을 사용하여 생성 모델과 변분(인식) 모델을 동시에 최적화할 수 있도록 하기 위해.
• 정확한 사후 추론이 불가능한 경우에도 이론적으로 타당한 방법을 제공하기 위해.

제안 방법

• 모델 파라미터에 대해 목적 함수가 미분 가능해지도록, 독립적인 노이즈 변수를 사용하여 변분 하한을 재구성하기 위해.
• 노이즈 변수에 의존하는 확률적 목적 함수를 구성하고, 이는 확률적 기울기 하강법을 통해 최적화할 수 있도록 하기 위해.
• 확률적 계산 그래프를 통해 역전파를 적용하여 생성 모델과 인식 모델의 파라미터를 동시에 업데이트하기 위해.
• 변분 하한을 최소화하기 위해 표준 확률적 최적화 기법을 적용하기 위해.
• 정확한 사후 분포가 존재하지 않는 경우에도, 약한 정규성 조건 하에서 방법이 유효하게 유지되도록 하기 위해.

실험 결과

연구 질문

• RQ1 연속적인 잠재 변수에 대해 사후 분포가 추론이 불가능한 상황에서도 변분 하한을 효율적으로 최적화할 수 있는가?
• RQ2 기울기 기반 방법을 사용하여 생성 모델과 인식 모델을 엔드 투 엔드로 동시에 훈련시킬 수 있는가?
• RQ3 재구성 기법이 대규모 환경에서 효과적이고 스케일러블한 학습을 가능하게 하는가?
• RQ4 정확한 사후 추론이 계산적으로 불가능한 경우에도 이 방법이 강건하고 효과적인가?

주요 결과

• SGVB 알고리즘은 확률적 기울기 하강법을 사용하여 변분 오토인코더의 효율적이고 스케일러블한 훈련을 가능하게 한다.
• 재구성 기법은 확률적 노드를 통해 역전파를 허용하여 생성 모델과 인식 모델의 공동 최적화를 가능하게 한다.
• 정확한 사후 분포가 존재하지 않는 상황에서도 대규모 데이터셋에서 양호한 성능을 달성한다.
• 이론적 분석 결과, 정확한 사후 계산이 불가능한 경우에도 약한 조건 하에서 방법이 타당함을 보여준다.