[論文レビュー] Sequential Neural Score Estimation: Likelihood-Free Inference with Conditional Score Based Diffusion Models

Louis Sharrock, Jack Simons+2 more|arXiv (Cornell University)|Oct 10, 2022

Model Reduction and Neural Networks被引用数 8

ひとこと要約

本稿では、条件付きスコアベース拡散モデルを用いた、尤度が計算不能なシミュレータベースのモデルにおける推論のための新しいスコアベース手法、順次的ニューラル後方分布スコア推定（SNPSE）および順次的ニューラル尤度スコア推定（SNLSE）を提案する。スコアネットワークを用いて対数後方分布または対数尤度の勾配を推定し、それを順次的シミュレーションフレームワークに組み込むことで、シミュレーションコストを低減しつつ、SNPE や SNLE と同等またはそれ以上の性能を達成している。

ABSTRACT

We introduce Sequential Neural Posterior Score Estimation (SNPSE), a score-based method for Bayesian inference in simulator-based models. Our method, inspired by the remarkable success of score-based methods in generative modelling, leverages conditional score-based diffusion models to generate samples from the posterior distribution of interest. The model is trained using an objective function which directly estimates the score of the posterior. We embed the model into a sequential training procedure, which guides simulations using the current approximation of the posterior at the observation of interest, thereby reducing the simulation cost. We also introduce several alternative sequential approaches, and discuss their relative merits. We then validate our method, as well as its amortised, non-sequential, variant on several numerical examples, demonstrating comparable or superior performance to existing state-of-the-art methods such as Sequential Neural Posterior Estimation (SNPE).

研究の動機と目的

• 尤度が計算不能なシミュレータベースのモデルにおけるベイズ推論の課題に対処すること。
• 明示的な密度推定を必要とせず、後方分布または尤度のスコアを直接推定するスコアベースの生成モデルを開発すること。
• スコアベース拡散モデルと順次的トレーニングを統合することで、尤度が計算不能な推論におけるシミュレーションコストを低減すること。
• 従来の SBI 手法（例：SNPE や SNLE）と比較して、後方分布近似におけるサンプル効率および精度を向上させること。
• シミュレートされたデータ上でスコアマッチングを用いてトレーニングされるスコアベース拡散モデルを活用し、スケーラブルかつアモアタイズド推論を可能にすること。

提案手法

• 後方分布または尤度のスコア関数を学習することで、計算不能な後方分布からのサンプル生成を可能にする条件付きスコアベース拡散モデルを提案する。
• 現在の後方分布近似を用いてシミュレーションを誘導する順次的トレーニング手順を採用し、必要なシミュレータ呼び出し回数を削減する。
• 事前分布とターゲット後方分布の間を滑らかに接続する一連の摂動付き密度（ブリッジ分布）を用い、時間依存のスコアを介してスコアベースの逆方向SDEサンプリングを可能にする。
• 事前分布とシミュレータから得たペア frac{( heta, x)}{} を用い、摂動付きデータ上でスコアマッチングを実行することで、1つのスコアネットワークが後方分布または尤度のスコアを近似する。
• 予測子・補正子法を用いて逆方向SDEを解き、ターゲット後方分布からの正確なサンプリングを保証する。
• 前向き拡散に分散爆発型SDEを用い、時間ステップを幾何級数的に調整することで、安定したトレーニングとサンプリングを実現する。

実験結果

リサーチクエスチョン

• RQ1 尤度が計算不能なシミュレータベースのモデルにおける尤度が計算不能な推論に、スコアベース拡散モデルを効果的に適用できるか？
• RQ2 後方分布または尤度のスコアを推定するスコアネットワークをトレーニングすることで、従来の正規化フローに基づくSBI手法と比較して、より効率的かつ正確な推論が達成できるか？
• RQ3 現在の後方分布推定を用いてシミュレーションを誘導する順次的トレーニング戦略が、SBIにおけるシミュレーションコストを顕著に低減できるか？
• RQ4 SNPSE および SNLSE は、SNPE や SNLE といった最先端の手法と比較して、ベンチマーク問題における性能とサンプル効率で優れているか？
• RQ5 スコアマッチングを用いたスコアベース生成モデリングが、SBIにおける後方分布近似の品質と収束性に与える影響は何か？

主な発見

• SNPSE および SNLSE は、'two moons' モデルを含むベンチマーク問題において、SNPE や SNLE と同等またはそれ以上の性能を示し、より優れたサンプル品質と低いシミュレーションコストを達成した。
• 順次的バージョン（SNPSE/SNLSE）は、シミュレータ呼び出し回数を顕著に削減し、非順次的ベースラインと比較して顕著なサンプル効率の向上を示した。
• 明示的な密度評価や正規化を必要とせず、スコア推定のみで高品質な後方分布サンプルを効果的に生成できた。
• 時間依存のスコアを有するブリッジ分布の使用により、真の後方分布が計算不能であっても、安定したトレーニングとサンプリングが可能になった。
• 実験結果から、提案手法は複数の実験において、後方分布カバレッジおよび有効サンプルサイズの観点で、既存のSBI手法を上回るか同等の性能を示した。
• 高次元パrameter空間に対してもロバストであり、限定的なトレーニングデータ（two-moons 実験では1000組のシミュレート済みペアのみ）でも強力な性能を維持した。