[論文レビュー] Automatic Backward Filtering Forward Guiding for Markov processes and graphical models

Frank van der Meulen, Moritz Schauer|arXiv (Cornell University)|Oct 7, 2020

Gaussian Processes and Bayesian Inference参考文献 24被引用数 5

ひとこと要約

本稿では、潜在マルコフ過程を伴う確率的グラフィカルモデルにおける効率的なベイズ推論のための、自動後向きフィルタリング・フォワード・ガイドド（BFFG）フレームワークを紹介する。生成的（フォワード）モデルを後向きフィルタリングと測度の変更を用いてデータに適合した近似に変換することにより、BFFGは平滑分布からの微分可能で構造を保全するサンプリングを可能にする—線形モデルでは正確であり、SDE、分岐拡散過程、ガンマ過程を含む非線形・連続時間過程にも適用可能である。

ABSTRACT

We incorporate discrete and continuous time Markov processes as building blocks into probabilistic graphical models with latent and observed variables. We introduce the automatic Backward Filtering Forward Guiding (BFFG) paradigm (Mider et al., 2021) for programmable inference on latent states and model parameters. Our starting point is a generative model, a forward description of the probabilistic process dynamics. We backpropagate the information provided by observations through the model to transform the generative (forward) model into a pre-conditional model guided by the data. It approximates the actual conditional model with known likelihood-ratio between the two. The backward filter and the forward change of measure are suitable to be incorporated into a probabilistic programming context because they can be formulated as a set of transformation rules. The guided generative model can be incorporated in different approaches to efficiently sample latent states and parameters conditional on observations. We show applicability in a variety of settings, including Markov chains with discrete state space, interacting particle systems, state space models, branching diffusions and Gamma processes.

研究の動機と目的

• 潜在マルコフ過程と観測データを伴う確率的グラフィカルモデルにおける、効率的で自動化された推論を可能にすること。
• DAG構造を変更せずに、観測データのもとでの潜在状態の平滑化（条件付きサンプリング）の課題に対処すること。
• 確率的プログラミングや現代の推論手法と互換性がある、プログラマブルで構造を保全するフレームワークを提供すること。
• 既存の後向きフィルタリングおよびドゥーブのh変換手法を、連続時間および非線形過程に拡張すること。
• 再パラメータ化を介した微分可能な推論を支援し、ハミルトニアン・モンテカルロ、パーティクル法、変分推論への応用を可能にすること。

提案手法

• 後向きフィルタリングは、DAGの葉から根へ向かって情報を伝搬させ、尤度比を計算する。
• 測度の変更を用いて、後向きフィルタの出力を用いて元の生成的モデルを事前条件付き（ガイド付き）モデルに変換する。
• ガイド付きモデルは、観測値のもとでの潜在状態およびパラメータの真の後方分布を近似する。
• 本フレームワークは、SDE、ガンマ過程、分岐拡散過程を含む、離散的および連続的時間マルコフ過程をサポートする。
• 勾配に基づく推論（ハミルトニアン・モンテカルロやスコアベース最適化など）を可能にする再パラメータ化を実現する。
• 尤度比の不偏推定器を提供することで、不確実な重みに対しても擬似周辺化メトロポリス・ハスティングス法をサポートする。

実験結果

リサーチクエスチョン

• RQ1 潜在マルコフ過程と観測データを伴う確率的グラフィカルモデルにおいて、どのように効率的に潜在状態をサンプリングできるか？
• RQ2 元のDAG構造を保ちつつ、データに適合した生成的モデルを構築し、微分可能な推論を可能にすることができるか？
• RQ3 後向きフィルタリングと測度の変更を、連続時間および非線形マルコフ過程に体系的かつ一貫して適用する方法は何か？
• RQ4 提案されたBFFGフレームワークとドゥーブのh変換、または既存のフィルタリングアルゴリズムとの関係は何か？
• RQ5 ハミルトニアン・モンテカルロやパーティクルMCMCのような現代の推論エンジンに、構造的変更なしに統合できるか？

主な発見

• BFFGフレームワークは、線形状態空間モデルに対して正確な平滑分布を提供し、古典的な後向きフィルタリング・フォワード・サンプリングアルゴリズムを回復する。
• 非線形かつ非可逆的過程では、BFFGは真の後方分布に対する構造を保全する近似を提供し、元のモデルとの間で既知の尤度比を保つ。
• 再パラメータ化により微分可能な推論が可能となり、変換 $ G(Z) $ を通じた勾配推定が可能となり、ハミルトニアン・モンテカルロの利用を可能にする。
• 尤度比の不偏推定器を提供するため、重みが不確実な場合でも擬似周辺化メトロポリス・ハスティングス法をサポートする。
• 連続時間マルコフ連鎖、ポアソン過程、ガンマ過程、確率微分方程式など、広範なプロセスに適用可能である。
• 変換ルールがモジュラーや合成可能であるため、確率的プログラミングと互換性があり、既存の推論パイプラインへの統合が可能である。