[論文レビュー] Inference Networks for Sequential Monte Carlo in Graphical Models

Brooks Paige, Frank Wood|arXiv (Cornell University)|Feb 22, 2016

Gaussian Processes and Bayesian Inference参考文献 35被引用数 51

ひとこと要約

この論文は、方向付きグラフィカルモデルにおける逐次モンテカルロ（SMC）のための高品質でモデル固有の提案分布として機能する、学習済みで構造化されたニューラルネットワークである推論ネットワークを導入する。これらのネットワークを生成モデルの確率的逆関数を近似するように事前学習することで、多様な問題においてSMC推論を高速化し、特に高次元またはマルチモーダルな事後分布において、粒子の劣化とリサンプリングの必要性を顕著に低減する。

ABSTRACT

We introduce a new approach for amortizing inference in directed graphical models by learning heuristic approximations to stochastic inverses, designed specifically for use as proposal distributions in sequential Monte Carlo methods. We describe a procedure for constructing and learning a structured neural network which represents an inverse factorization of the graphical model, resulting in a conditional density estimator that takes as input particular values of the observed random variables, and returns an approximation to the distribution of the latent variables. This recognition model can be learned offline, independent from any particular dataset, prior to performing inference. The output of these networks can be used as automatically-learned high-quality proposal distributions to accelerate sequential Monte Carlo across a diverse range of problem settings.

研究の動機と目的

• 方向付きグラフィカルモデルにおける逐次モンテカルロ（SMC）推論のための高品質な提案分布の設計を自動化し、手動のチューニングに依存するのを減らす。
• 事前学習された認識モデルを学習することで、複数のデータセットや観測値に対して再利用可能なアモアタイズド推論を可能にする。
• 尤度関数が非常に情報量が多くたりマルチモーダルであったりする場合に、従来のベースライン提案分布が非効率である問題を解決する。
• 生成モデルの確率的逆関数を近似する、構造的かつ解釈可能なニューラルネットワーク的手法を提供し、より優れた提案品質を実現する。
• 組み合わせ的潜在空間や非連結なモードを有する因子HMMのような困難なモデルにおいて、SMCの効率を向上させる。

提案手法

• 観測変数と以前の状態を入力として受け取り、潜在変数の事後分布の近似を出力する構造化されたニューラルネットワークを学習し、SMCにおける提案分布として使用する。
• 真の事後分布と提案分布のKLダイバージェンスを最小化する変分的目的関数を用いてネットワークを学習し、SMCの重要度係数の微分可能近似を用いる。
• ネットワークは自己回帰的であり、現在の観測値と以前の状態に条件付けられており、潜在変数の逐次的モデリングを可能にする。
• 学習は、実データではなく、既知の生成モデルから生成された合成データを用いて事前に行われ、データ分布のシフトに対して頑健であることを保証する。
• 提案ネットワークは、標準的な事前分布の代わりにニューラルネットワークの出力をSMCに統合することで、粒子の多様性と有効サンプルサイズを向上させる。
• 実装はPyTorchを用い、階層モデルや20台のデバイスを持つ要因HMMを含むモデルで評価され、より高いサンプル効率を示した。

実験結果

リサーチクエスチョン

• RQ1 事前学習されたニューラルネットワークは、方向付きグラフィカルモデルにおけるSMC推論のための高品質な提案分布を学習できるか？
• RQ2 粒子の劣化と有効サンプルサイズの観点から、学習済み提案分布は標準的な事前ベースの提案分布よりも優れているか？
• RQ3 同じモデルの異なる観測値に対し、再訓練なしに一般化可能か？
• RQ4 構造化されたニューラルネットワークを用いることで、マルチモーダルまたは高次元の事後分布における提案品質が向上するか？
• RQ5 提案品質の向上により、SMCにおけるリサンプリングの必要性を低減できるか？

主な発見

• 20台のデバイスを持つ要因HMMにおいて、学習済み提案分布は粒子の劣化を低減し、30ステップにわたり、事前ベースの提案分布よりも高い有効サンプルサイズを維持した。
• 学習済み提案分布では、非連結なモード間での混合が良好に保たれ、独自の粒子のルートの数が著しく高いままであった。
• 10回の実験において安定した性能を示し、生存粒子の平均と標準偏差が一貫して改善された。
• リサンプリングの必要性が低下したのは、より多様で代表的な提案を提供したためであり、特に尤度が高い領域で顕著であった。
• 提案ネットワークの事前学習により、再訓練なしに新しいデータに対して高速な推論が可能となり、推論コストのアモアタイズドが実現された。
• ピークがきつい尤度関数を有するモデルでは、ベースラインのブートストラップSMCを上回った。