[論文レビュー] Compositional Score Modeling for Simulation-based Inference

Tomas Geffner, George Papamakarios+1 more|arXiv (Cornell University)|Sep 28, 2022

Model Reduction and Neural Networks被引用数 4

ひとこと要約

本稿では、要因分解されたニューラル後方分布スコア推定（F-NPSE）およびその段階的拡張版（PF-NPSE）を提案する。これは、個々の観測値が誘導する後方分布のスコアをモデル化し、それらを組み合わせて複数の観測値の同時後方分布からのサンプリングを可能にする、シミュレーションベースの推論手法である。この手法により、MCMC や変分推論に依存せずに、サンプル効率的かつスケーラブルな推論が実現され、各訓練ケースにおけるシミュレータ呼び出し回数を最小限に抑えつつ、高精度な後方分布近似が達成される。

ABSTRACT

Neural Posterior Estimation methods for simulation-based inference can be ill-suited for dealing with posterior distributions obtained by conditioning on multiple observations, as they tend to require a large number of simulator calls to learn accurate approximations. In contrast, Neural Likelihood Estimation methods can handle multiple observations at inference time after learning from individual observations, but they rely on standard inference methods, such as MCMC or variational inference, which come with certain performance drawbacks. We introduce a new method based on conditional score modeling that enjoys the benefits of both approaches. We model the scores of the (diffused) posterior distributions induced by individual observations, and introduce a way of combining the learned scores to approximately sample from the target posterior distribution. Our approach is sample-efficient, can naturally aggregate multiple observations at inference time, and avoids the drawbacks of standard inference methods.

研究の動機と目的

• 複数の観測値に条件づける際のニューラル後方推定（NPE）の非効率性、特に各訓練ケースあたりのシミュレータ呼び出し回数の多さを解消すること。
• MCMC や変分推論といった標準的手法に依存するニューラル尤度推定（NLE）の限界を克服すること。これらの手法は近似誤差を生じさせやすく、多次元後方分布では失敗する。
• NPE のサンプル効率性と NLE の複数観測値処理能力を統合し、標準的手法に依存しない手法を開発すること。
• 推論時に任意の数の i.i.d. 観測値を扱える後方分布近似を可能にし、同時に訓練時のシミュレーションコストを低く抑えること。

提案手法

• 各個々の観測値が誘導する後方分布のスコア（対数密度の勾配）を、条件付きスコアネットワークを用いてモデル化する。
• 後方分布を個別に拡散させる新しい前方プロセスを導入し、推論時にスコアを合成的に集約可能にする。
• 推論時、個々の観測値からのスコアを加法的に組み合わせて、同時後方分布のスコアを近似する。
• 同時後方分布からのサンプリングには、学習済みスコアネットワークを活用するスコアベース生成プロセスとしてのアニールド・ランジュバンダイナミクスを用いる。
• ハイパーパramータに依存しない代替サンプリング手法も提案。この手法は O(T) 時間で実行可能で、ステップサイズのチューニングを回避する。
• 後方分布推定が有界なサポート内に留まるようにモデルを再パrameter化。可視化にはカーネル密度推定を用いる。

実験結果

リサーチクエスチョン

• RQ1 訓練ケースごとに1回のシミュレータ呼び出しで済ませながら、推論時に複数の観測値を効率的に処理できるシミュレーションベース推論手法を構築できるか？
• RQ2 MCMC や変分推論といった標準的手法の性能的欠陥を、複雑で多次元的な後方分布の近似において回避できるか？
• RQ3 個々の観測値からのスコアを合成的に集約するスコアモデリング手法—すなわち、個々の観測値からのスコアを集約することで、再トレーニングなしに高精度な同時後方分布近似が得られるか？
• RQ4 スコア集約プロセスに使用する観測値の数を変化させた際、サンプル効率性と誤差蓄積のトレードオフが性能に与える影響は何か？

主な発見

• F-NPSE および PF-NPSE は、各訓練ケースあたり1回のシミュレータ呼び出しで複数の観測値に対する高精度な後方分布近似を達成し、NPE よりも顕著にサンプル効率性が向上している。
• 最良の性能は通常、m の中間値（例：3 または 6）で得られる。これは、F-NPSE（m=1）と NPSE（m=n）がいずれも非効率であることを示しており、誤差蓄積と効率性の間のトレードオフが顕著であることを示している。
• ハイパーパramータの選択に強く依存しない。スコアネットワークの保守的パラメータ化や、ランジュバンサンプリングのステップ数（各ノイズレベルあたり5〜10ステップ）の変化に対しても、性能への影響は最小限である。
• ワインバーグ・シミュレータベンチマークにおいて、F-NPSE は観測値の数が増加するにつれて、真のパラメータ値の周囲に後方分布が集中することを示しており、正しい学習と集約が行われていることを裏付けている。
• ハイパーパラメータに依存しない代替サンプリング手法を提案し、有効であることが示されたが、一部の状況ではアニールド・ランジュバンダイナミクスに劣ることがあり、さらなる最適化の余地があることが示唆された。