[論文レビュー] Sequential Neural Posterior and Likelihood Approximation

Samuel Wiqvist, Jes Frellsen+1 more|arXiv (Cornell University)|Feb 12, 2021

Model Reduction and Neural Networks参考文献 35被引用数 6

ひとこと要約

この論文は、正規化フローを用いて、MCMCサンプリングや補正ステップを回避する、同時的に近似事後分布と尤度分布を学習するシミュレーションベース推論手法である順序付きニューラル事後・尤度近似（SNPLA）を提案する。SNPLAは、SNLのようなMCMCベースの手法と比較して最大12,000倍高速な事後分布サンプリングを実現し、同じ数のモデルシミュレーションを用いても競争力ある推論精度を維持する。

ABSTRACT

We introduce the sequential neural posterior and likelihood approximation (SNPLA) algorithm. SNPLA is a normalizing flows-based algorithm for inference in implicit models, and therefore is a simulation-based inference method that only requires simulations from a generative model. SNPLA avoids Markov chain Monte Carlo sampling and correction-steps of the parameter proposal function that are introduced in similar methods, but that can be numerically unstable or restrictive. By utilizing the reverse KL divergence, SNPLA manages to learn both the likelihood and the posterior in a sequential manner. Over four experiments, we show that SNPLA performs competitively when utilizing the same number of model simulations as used in other methods, even though the inference problem for SNPLA is more complex due to the joint learning of posterior and likelihood function. Due to utilizing normalizing flows SNPLA generates posterior draws much faster (4 orders of magnitude) than MCMC-based methods.

研究の動機と目的

• 暗黙のモデルにおけるシミュレーションベース推論（SBI）手法におけるMCMCサンプリングの計算非効率性を解消すること。
• SNPEのような手法で知られる、事後分布推定における補正ステップの必要性を排除すること。
• 高速にサンプリング可能な正確な尤度モデルを副産物として同時に学習し、効率的なデータ生成を可能にすること。
• 事後推論と学習された尤度モデルからの迅速なシミュレーションを両立する統合フレームワークを提供すること。
• 特に計算制約下において、学習された尤度を用いたパrameter空間の効率的探索を可能にすること。

提案手法

• 正規化フローを用いて、事後分布 $\tilde{p}_{\phi_P}(\theta|x_{\text{obs}})$ と尤度 $\tilde{p}_{\phi_L}(x|\theta)$ の両方をモデル化する。
• SNPEで必要な補正ステップを回避するため、逆Kullback–Leibler（KL）ダイバージェンスを用いて事後分布を学習する。
• シミュレートされたデータ上で、同時最適化目的関数を用いて事後分布と尤度モデルを段階的に訓練する。
• 正規化フローの可逆性と解析的可 tractability を活用し、単一の前向きパスで高速な事後分布サンプリングを実現する。
• 一般化性能の向上を図るため、要約統計量のエンドツーエンド学習を事後分布と尤度モデルと併せて統合する。
• 事後分布と尤度学習の両方に同じモデルシミュレーションのセットを用いることで、効率性と一貫性を確保する。

実験結果

リサーチクエスチョン

• RQ1 MCMCや補正ステップに依存せずに、1つのSBI手法で同時に事後分布と尤度分布を学習できるか？
• RQ2 同じ数のモデルシミュレーションを用いた場合、SNPLAの事後分布推定精度はSNLおよびSNPE-Cと比べてどの程度か？
• RQ3 事後分布と尤度の同時学習が、サンプリング速度および計算効率にどの程度の向上をもたらすか？
• RQ4 学習された尤度モデルは、迅速な人工データ生成およびパrameter空間探索に効果的に利用できるか？
• RQ5 学習された要約統計量の導入により、多様なモデルにわたる推論のロバスト性と一般化性能が向上するか？

主な発見

• SNPLAはSNLと比較して、事後分布サンプリングを約12,000倍高速に実行し、サンプリングにおいて4桁の高速化を達成した。
• 同じ数のモデルシミュレーションを用いた場合、SNPLAはSNLおよびSNPE-Cと同等の精度の事後推定を達成するが、わずかに高いばらつきを示した。
• SNPLAのトレーニング実行時間は、平均してSNLの5.6倍速く、SNRE-Bの2倍速いが、同時に事後分布と尤度を学習しているにもかかわらずである。
• 学習された尤度モデルにより、人工データの迅速なシミュレーションが可能となり、これは特にパrameter空間探索やレアイベント推定に有用である。
• HHモデルでは、SNLと比較してSNPLAが壁時計時間でより速く収束し、複雑で高次元の設定においても実用的な効率性の向上を示した。
• 要約統計量、事後分布、尤度を同時に学習することで、プラグアンドプレイ推論を可能とし、柔軟性と再利用性を向上させた。