[논문 리뷰] Inference Networks for Sequential Monte Carlo in Graphical Models

Brooks Paige, Frank Wood|arXiv (Cornell University)|2016. 02. 22.

Gaussian Processes and Bayesian Inference참고 문헌 35인용 수 51

한 줄 요약

이 논문은 유 directed 그래픽 모델에서 순차 몽테 카를로(SMC)에 대한 고품질의 모델 전용 제안 분포로 작동하는 학습된 구조적 신경망인 추론 네트워크를 소개한다. 이 방법은 사전에 생성 모델의 확률적 역함수를 근사하도록 학습시켜, 다양한 문제에서 SMC 추론을 가속화하며, 특히 고차원 또는 다모달 분포인 사후 분포에서 입자 기반 붕괴와 재표본 추출의 필요성을 크게 감소시킨다.

ABSTRACT

We introduce a new approach for amortizing inference in directed graphical models by learning heuristic approximations to stochastic inverses, designed specifically for use as proposal distributions in sequential Monte Carlo methods. We describe a procedure for constructing and learning a structured neural network which represents an inverse factorization of the graphical model, resulting in a conditional density estimator that takes as input particular values of the observed random variables, and returns an approximation to the distribution of the latent variables. This recognition model can be learned offline, independent from any particular dataset, prior to performing inference. The output of these networks can be used as automatically-learned high-quality proposal distributions to accelerate sequential Monte Carlo across a diverse range of problem settings.

연구 동기 및 목표

• 방향 그래픽 모델에서 순차 몽테 카를로(SMC) 추론을 위한 고품질의 제안 분포 설계를 자동화하여 수동 튜닝에 대한 의존도를 줄이기.
• 사전에 학습된 인식 모델을 통해 추론을 암시적으로 수행할 수 있도록 하여, 여러 데이터셋과 관측치 간에 재사용 가능한 추론을 가능하게 하기.
• 우도가 매우 정보가 많거나 다모달일 경우 기존의 기반 제안 분포가 효율적이지 못한 SMC의 비효율성을 해결하기.
• 생성 모델의 확률적 역함수를 근사하는 구조적이고 해석 가능한 신경망 접근법을 제공하여 더 나은 제안 품질을 확보하기.
• 조합 잠재 공간과 분리된 모드를 가진 복잡한 모델, 예를 들어 인자 HMM에서 SMC의 효율성을 향상시키기.

제안 방법

• 관측 변수와 이전 상태를 입력으로 받아 잠재 변수의 사후 분포에 대한 근사값을 출력하는 구조적 신경망을 학습시켜, SMC에서 제안 분포로 활용한다.
• 진짜 사후 분포와 제안 분포 간의 KL 발산을 최소화하는 변분 목표를 사용하여 네트워크를 학습시키며, SMC 중요도 가중치의 미분 가능 근사를 활용한다.
• 네트워크는 순차적으로 작동하며 현재 관측치와 이전 상태에 조건을 두어 잠재 변수의 순차적 모델링을 가능하게 한다.
• 실제 데이터가 아닌 알려진 생성 모델로부터 생성된 시뮬레이션 데이터를 사용해 사전에 학습하므로, 데이터 분포의 변화에 대해 강건성을 확보한다.
• 표본 추출 과정에서 표준 기반 제안 분포 대신 신경망의 출력을 사용하여 SMC에 통합함으로써 입자 다양성과 유효 표본 수를 향상시킨다.
• PyTorch로 구현되었으며, 계층 모델과 20대의 장치를 가진 인자 HMM을 포함한 다양한 모델에서 평가되었으며, 더 나은 표본 효율성을 입증했다.

실험 결과

연구 질문

• RQ1 방향 그래픽 모델에서 SMC 추론을 위한 고품질의 제안 분포를 사전에 학습시킨 신경망을 설계할 수 있는가?
• RQ2 기본 기반 제안 분포와 비교했을 때, 학습된 제안 분포의 입자 기반 붕괴와 유효 표본 수 측면에서 성능은 어떻게 되는가?
• RQ3 동일한 모델의 다양한 관측치에 대해 재학습 없이도 일반화가 가능한가?
• RQ4 구조적 신경망을 사용함으로써 다모달 또는 고차원 사후 분포에서 제안 품질이 향상되는가?
• RQ5 제안 품질 향상으로 인해 SMC에서 재표본 추출의 필요성이 줄어드는가?

주요 결과

• 20대의 장치를 가진 인자 HMM에서 학습된 제안 분포는 30개의 시간 단계 동안 기반 제안 분포보다 입자 기반 붕괴를 줄이고 더 높은 유효 표본 수를 유지했다.
• 학습된 제안 분포에서는 고유한 입자 유전자 수가 유의미하게 더 높게 유지되었으며, 이는 분리된 모드 간의 혼합이 더 잘 이루어졌음을 시사한다.
• 10회의 실행에서 안정적인 성능을 기록했으며, 생존 입자의 평균과 표준편차는 일관된 향상을 보였다.
• 재표본 추출의 필요성을 줄였는데, 이는 더 다양하고 대표적인 제안 분포를 제공함으로써 고우도 영역에서 특히 효과적이었다.
• 사전에 학습된 제안 네트워크 덕분에 재학습 없이도 새로운 데이터에 대해 빠른 추론이 가능했으며, 추론 비용의 암시적 분산(амortization)을 실현했다.
• 피크가 높은 우도를 가진 모델에서 기존의 부트스트랩 SMC 베이스라인에 비해 본 방법이 더 뛰어난 성능을 보였다. 이는 기반 제안 분포가 통계적으로 비효율적이기 때문이다.