[논문 리뷰] Black box variational inference for state space models

Evan Archer, Il Memming Park외 3명|arXiv (Cornell University)|2015. 11. 23.

Gaussian Processes and Bayesian Inference참고 문헌 24인용 수 114

한 줄 요약

이 논문은 블록 삼중대각 정밀도 행렬을 가진 구조화된 가우시안 근사 사후분포를 사용하여 상태공간 모델에 대한 블랙박스 변분 추론 방법을 제안한다. 이는 긴 시계열 데이터에서 효율적이고 선형 시간 복잡도로 추론을 가능하게 하며, 정확도와 속도 면에서 특화된 방법들을 능가한다. 비선형 역학을 복원하고 비정규 모델에서도 궤적을 부드럽게 처리할 수 있다.

ABSTRACT

Latent variable time-series models are among the most heavily used tools from machine learning and applied statistics. These models have the advantage of learning latent structure both from noisy observations and from the temporal ordering in the data, where it is assumed that meaningful correlation structure exists across time. A few highly-structured models, such as the linear dynamical system with linear-Gaussian observations, have closed-form inference procedures (e.g. the Kalman Filter), but this case is an exception to the general rule that exact posterior inference in more complex generative models is intractable. Consequently, much work in time-series modeling focuses on approximate inference procedures for one particular class of models. Here, we extend recent developments in stochastic variational inference to develop a `black-box' approximate inference technique for latent variable models with latent dynamical structure. We propose a structured Gaussian variational approximate posterior that carries the same intuition as the standard Kalman filter-smoother but, importantly, permits us to use the same inference approach to approximate the posterior of much more general, nonlinear latent variable generative models. We show that our approach recovers accurate estimates in the case of basic models with closed-form posteriors, and more interestingly performs well in comparison to variational approaches that were designed in a bespoke fashion for specific non-conjugate models.

연구 동기 및 목표

• 정확한 사후분포 추론이 불가능한 잠재변수 시계열 모델에 대해 확장 가능하고 일반적인 추론 방법을 개발하는 것.
• 모델에 특화된 유도 과정 없이도 복잡한 비선형 및 비정규 상태공간 모델에서 효율적인 사후 근사 추론을 가능하게 하는 것.
• 칼만 스무딩과 유사한 시간적 종속성을 반영하지만 공액 모델을 초월해 적용 가능한 변분 사후분포를 설계하는 것.
• 스토하스틱 그래디언트 변분 베이즈(SGVB)를 활용해 빠른 수렴과 고품질의 사후 추정치를 달성하는 것.
• 포isson 선형 동적 시스템(PLDS) 포함한 선형 및 비선형 동적 시스템에 대해 이 방법의 효과성을 입증하는 것.

제안 방법

• 잠재 상태 궤적의 시간적 종속성을 모델링하기 위해 블록 삼중대각 정밀도 행렬을 가진 구조화된 가우시안 변분 사후분포를 제안한다.
• 깊은 신경망(NN)을 사용해 근사 사후분포의 평균과 정밀도 행렬을 매개변수화하여 관측값에 따라 유연한 추론을 가능하게 한다.
• 스토하스틱 그래디언트 변분 베이즈(SGVB)를 활용해 미니배치 업데이트를 통해 생성 모델 매개변수와 변분 매개변수를 동시에 최적화한다.
• 블록 삼중대각 구조를 활용해 시간 복잡도와 공간 복잡도 모두 O(T)의 선형 시간 복잡도로 추론을 가능하게 하여 장기간의 시계열 데이터에 효율적으로 스케일링된다.
• 인식 모델(NN)을 사용해 관측값을 직접 스무딩된 사후분포로 매핑함으로써 비공액 설정에서 칼만 스무딩과 유사한 행동을 모방한다.
• Theano와 Lasagne를 사용해 구현하였으며, 인식 모델과 생성 모델을 번갈아 업데이트하는 이중 최적화 프레임워크를 구현하였다.

실험 결과

연구 질문

• RQ1 일般화된 블랙박스 변분 추론 방법이 비선형 및 비정규 상태공간 모델에서 정확한 사후 근사 추론을 달성할 수 있는가?
• RQ2 블록 삼중대각 정밀도 행렬을 가진 구조화된 가우시안 사후분포가 평균-장 가정 및 비구조화된 근사보다 시간적 역학을 더 잘 포착하는가?
• RQ3 PLDS에 대한 특화된 VBEM 방법과 비교해 본다면, 제안된 방법은 수렴 속도와 ELBO 성능 면에서 어떻게 다른가?
• RQ4 진짜 사후분포가 비정규일 때, 이 방법이 비선형 상태 전이를 얼마나 잘 복원할 수 있는가?
• RQ5 이 알고리즘은 시간과 메모리 면에서 시계열 길이에 대해 선형적으로 스케일링되는가?

주요 결과

• VILDS 방법은 평균-장 가정 및 VBDual 기반 방법보다 더 높은 증거 하한값(ELBO)을 달성하며, 더 빠른 수렴 속도와 더 나은 성능을 보였다.
• VBEM이 한 번의 EM 반복도 완료하기 전에 VILDS는 PLDS에 대해 특화된 VBEM 방법과 유사한 ELBO 수준에 도달했으며, 이는 더 빠른 수렴 속도를 보여준다.
• VILDS가 학습한 사후분포 평균 궤적은 평균-장 근사보다 눈에 띄게 부드럽게 나타나 시간적 구조를 더 잘 포착하고 있음을 시사한다.
• 비선형 1차원 동적 시스템에서 VILDS는 사후분포 평균도면을 통해 연속된 상태 간의 진짜 비선형 관계를 성공적으로 복원하였다.
• 이 방법은 시간 복잡도와 공간 복잡도 면에서 시계열 길이에 대해 선형적으로 스케일링되어 장기간의 시계열 데이터에서도 효율적인 추론이 가능하다.
• 신경망으로 매개변수화된 구조화된 사후분포는 비공액 모델에서도 정확한 추론을 가능하게 하여 이 방법의 블랙박스 성격을 검증한다.