[논문 리뷰] Automatic Backward Filtering Forward Guiding for Markov processes and graphical models

Frank van der Meulen, Moritz Schauer|arXiv (Cornell University)|2020. 10. 07.

Gaussian Processes and Bayesian Inference참고 문헌 24인용 수 5

한 줄 요약

이 논문은 잠재 마르코프 과정을 가진 확률적 그래픽 모델에서 효율적인 베이지안 추론을 위한 Automatic Backward Filtering Forward Guiding (BFFG) 프레임워크를 소개한다. 생성 모델(전진 모델)을 뒤집힌 필터링과 측도 변화를 통해 데이터 유도형 근사 모델로 변환함으로써, 부드러움 분포에서 구조를 유지하는 미분 가능 샘플링이 가능해진다. 이는 선형 모델에 대해 정확하며, SDE, 분열 확산, 감마 과정과 같은 비선형 연속시간 과정에도 적용 가능하다.

ABSTRACT

We incorporate discrete and continuous time Markov processes as building blocks into probabilistic graphical models with latent and observed variables. We introduce the automatic Backward Filtering Forward Guiding (BFFG) paradigm (Mider et al., 2021) for programmable inference on latent states and model parameters. Our starting point is a generative model, a forward description of the probabilistic process dynamics. We backpropagate the information provided by observations through the model to transform the generative (forward) model into a pre-conditional model guided by the data. It approximates the actual conditional model with known likelihood-ratio between the two. The backward filter and the forward change of measure are suitable to be incorporated into a probabilistic programming context because they can be formulated as a set of transformation rules. The guided generative model can be incorporated in different approaches to efficiently sample latent states and parameters conditional on observations. We show applicability in a variety of settings, including Markov chains with discrete state space, interacting particle systems, state space models, branching diffusions and Gamma processes.

연구 동기 및 목표

• 잠재 마르코프 과정과 관측 데이터를 가진 확률적 그래픽 모델에서 효율적이고 자동화된 추론을 가능하게 하기 위해.
• 관측값에 조건부로 잠재 상태를 샘플링하는 스무딩 문제를 DAG의 구조를 수정하지 않고 해결하기 위해.
• 확률적 프로그래밍 및 현대 추론 방법과 호환되는 프로그래머블하고 구조를 유지하는 프레임워크를 제공하기 위해.
• 기존의 뒤집힌 필터링 및 두브의 h-변환 방법을 연속시간 및 비선형 과정으로 확장하기 위해.
• 재파arameterization를 통한 미분 가능 추론을 지원하고 힘의 몬테카를로, 입자 방법, 변분 추론 등에 활용할 수 있도록 하기 위해.

제안 방법

• 뒤집힌 필터링은 DAG의 잎에서 루트로 향해 정보를 전파하여 우도 비율을 계산한다.
• 측도 변화를 통해 뒤집힌 필터링 출력을 사용해 원래의 생성 모델을 사전 조건부(유도된) 모델로 변환한다.
• 유도된 모델은 관측값을 조건으로 하는 잠재 상태와 매개변수의 진정된 사후 분포를 근사한다.
• 이 프레임워크는 SDE, 감마 과정, 분열 확산을 포함한 이산 및 연속시간 마르코프 과정 모두를 지원한다.
• 이 방법은 힘의 몬테카를로 및 스코어 기반 최적화와 같은 기울기 기반 추론을 위한 재파arameterization를 가능하게 한다.
• 무한한 무게를 가진 경우에도 편향 없는 우도 비율 추정량을 제공함으로써 가짜 마르코프 체인 메트로폴리스-하스팅스를 지원한다.

실험 결과

연구 질문

• RQ1 잠재 마르코프 과정과 관측 데이터를 가진 확률적 그래픽 모델에서 효율적으로 잠재 상태를 샘플링할 수 있는 방법은 무엇인가?
• RQ2 원래 DAG의 구조를 유지하면서 데이터 유도형 생성 모델을 구성하고, 이를 통해 미분 가능한 추론을 수행할 수 있는가?
• RQ3 뒤집힌 필터링과 측도 변화를 연속시간 및 비선형 마르코프 과정에 체계적으로 적용할 수 있는가?
• RQ4 제안된 BFFG 프레임워크는 두브의 h-변환 또는 기존 필터링 알고리즘과 어떤 관계가 있는가?
• RQ5 이 프레임워크는 DAG의 구조를 수정하지 않고도 힘의 몬테카를로나 입자 MCMC와 같은 현대 추론 엔진에 통합될 수 있는가?

주요 결과

• BFFG 프레임워크는 선형 상태공간 모델에 대해 정확한 스무딩 분포를 제공하며, 고전적인 뒤집힌 필터링 전진 샘플링 알고리즘을 복원한다.
• 비선형 및 비역행성 과정에 대해서는, 원래 모델에 대한 알려진 우도 비율을 유지하면서 진정된 사후 분포에 대한 구조를 유지하는 근사값을 제공한다.
• 재파arameterization를 통해 기울기 기반 추론이 가능해지며, 이는 변환 $ G(Z) $를 통한 기울기 추정을 가능하게 하여 힘의 몬테카를로를 지원한다.
• 무한한 무게를 가진 경우에도 편향 없는 우도 비율 추정량을 제공함으로써 가짜 마르코프 체인 메트로폴리스-하스팅스를 지원한다.
• 이 방법은 연속시간 마르코프 체인, 포아송 과정, 감마 과정, 확률적 미분 방정식 등 다양한 과정에 적용 가능하다.
• 확률적 프로그래밍과의 호환성이 있으며, 변환 규칙이 모듈러하고 조합 가능하므로 기존 추론 파이프라인에 통합이 가능하다.