[논문 리뷰] Sequential Monte Carlo for Graphical Models

Christian A. Naesseth, Fredrik Lindsten외 1명|arXiv (Cornell University)|2014. 02. 03.

Bayesian Methods and Mixture Models참고 문헌 34인용 수 23

한 줄 요약

이 논문은 인과 그래프의 순차적 분해를 활용하여 보조 분포의 순서를 정의함으로써 확률적 그래픽 모델(PGMs)을 위한 새로운 순차적 몬테카를로(SMC) 프레임워크를 제안한다. 이 방법은 분할 함수의 비편향 추정을 가능하게 하며, 입자 마르코프 체인 몬테카를로를 통해 효율적이고 고차원적인 블록 샘플링 MCMC 추론을 지원하여 기존의 근사적 SMC 및 메시지 전파 방법들보다 일致성과 일반성 면에서 뛰어나다.

ABSTRACT

We propose a new framework for how to use sequential Monte Carlo (SMC) algorithms for inference in probabilistic graphical models (PGM). Via a sequential decomposition of the PGM we find a sequence of auxiliary distributions defined on a monotonically increasing sequence of probability spaces. By targeting these auxiliary distributions using SMC we are able to approximate the full joint distribution defined by the PGM. One of the key merits of the SMC sampler is that it provides an unbiased estimate of the partition function of the model. We also show how it can be used within a particle Markov chain Monte Carlo framework in order to construct high-dimensional block-sampling algorithms for general PGMs.

연구 동기 및 목표

• 메시지 전파 방법에 내재된 근사 오차를 피하는 일반적인 확률적 그래픽 모델을 위한 일치하는 SMC 기반 추론 방법을 개발하는 것.
• 베이지안 모델 비교에 핵심적인 역할을 하는 모델의 분할 함수를 SMC를 통해 비편향으로 추정하는 것.
• 입자 MCMC를 통해 잠재 변수와 모델 파라미터에 대한 고차원 블록 방식의 MCMC 커널을 구성하는 것.
• 이전 SMC 방법들이 MCMC 단계를 SMC 반복 내에서 사용하거나 가우시안/이산 모델에 국한되는 등의 한계를 극복하는 것.
• 평균화 근사나 루프가 있는 신뢰도 전파에 의존하지 않고도 비가우시안 및 비이산 PGMs에 적용 가능한 융통성 있고 일반적인 추론 프레임워크를 제공하는 것.

제안 방법

• 모델의 인과 그래프를 순차적으로 분해하여 증가하는 차원을 가지는 확률 공간과 그에 상응하는 보조 목표 분포의 순서를 정의한다.
• 이를 위해 SMC 샘플러를 사용하여 이러한 보조 분포를 목표로 삼으며, 모델 구조에 의해 정의된 조건부 분포의 순서를 따라 입자와 가중치를 전파한다.
• 결과로 얻어지는 마르코프 체인의 정밀 균형을 보장하기 위해 입자 역사 보존을 위해 조상 리샘플링을 적용한다. 이는 입자 MCMC 응용에 매우 중요하다.
• 조상 샘플링은 입자 가중치와 전체 목표 밀도 대 현재 목표 밀도의 비율의 곱에 비례하는 가중 선택 규칙을 통해 구현되며, 조건부 의존성을 활용한다.
• 이 프레임워크는 자연스럽게 SMC 알고리즘의 최종 정규화된 가중치 합으로부터 분할 함수 $ Z $ 의 비편향 추정치를 생성한다.
• SMC 샘플러는 입자 MCMC 체계 내에 통합되어 잠재 변수와 미지의 모델 파rameter에 대한 동시 추론을 가능하게 하며, SMC 출력을 고차원 제안 커널로 사용한다.

실험 결과

연구 질문

• RQ1 PGM의 인과 그래프에 대한 순차적 분해가 전체 공동 분포 근사에 대한 일치하는 SMC 알고리즘을 구축하는 데 기여할 수 있는가?
• RQ2 제안된 SMC 프레임워크는 분할 함수에 대해 비편향 추정치를 제공하는가? 그리고 Annealed Importance Sampling(AIS)와 비교해 볼 때 어떤가?
• RQ3 SMC 샘플러는 입자 MCMC 프레임워크 내에서 잠재 변수 및 파rameter 추론을 위한 고차원 블록 방식의 MCMC 커널로 사용될 수 있는가?
• RQ4 조상 샘플링의 계산 복잡도는 모델 구조에 따라 어떻게 변화하는가? 특히 현재 상태 변수에 의존하는 요소의 수에 따라 어떻게 변하는가?
• RQ5 이 방법은 평균화 근사나 중간 단계의 MCMC 단계에 의존하는 기존의 SMC 기반 PGM 추론 기법들보다 어떻게 일반화되는가?

주요 결과

• SMC 알고리즘은 분할 함수 $ Z $ 에 대해 비편향 추정치를 제공한다. 이는 메시지 전파나 평균화 근사 SMC 방법과는 대조적으로 핵심적인 이점이다.
• 이 방법은 이전의 SMC 기반 접근법이 루프가 있는 신뢰도 전파의 입자 근사에 의존하여 본질적으로 근사적인 데 반해, 추론에서 일致성을 달성한다.
• 조상 샘플링 단계는 결과 마르코프 체인의 정밀 균형을 보장하여 입자 MCMC 프레임워크 내에서 유효한 추론을 가능하게 한다.
• 조상 샘플링의 계산 비용은 현재 상태와 미래 변수에 모두 의존하는 요소의 수에 따라 달라지며, 일반적으로 총 변수 수보다 훨씬 작다.
• 이 프레임워크는 비가우시안 및 비이산 잠재력이 있는 일반 PGMs에 적용 가능하며, 평균화 근사나 SMC 반복 내 중간 단계의 MCMC 단계가 필요하지 않다.
• 이 방법은 입자 학습의 일반화로 볼 수 있으며, 이전 방법들보다 더 넓은 범위의 모델에 SMC의 적용 가능성을 확장한다.