[論文レビュー] Variational methods for simulation-based inference

Manuel Glöckler, Michael Deistler+1 more|arXiv (Cornell University)|Mar 8, 2022

Neural Networks and Applications被引用数 10

ひとこと要約

この論文では、正規化フローとサンプリング重要度再抽出（SIR）を用いた尤度比推定と変分推論を組み合わせることで、スケーラブルなシミュレーションベース推論手法である順序的ニューラル変分推論（SNVI）を提案する。SNVIはMCMCサンプリングを必要とせず、神経科学的モデルにおいて計算コストを1桁低減しながら、正確性を維持し、無効なシミュレーション出力を補正するキャリブレートされた尤度推定器により処理する。

ABSTRACT

We present Sequential Neural Variational Inference (SNVI), an approach to perform Bayesian inference in models with intractable likelihoods. SNVI combines likelihood-estimation (or likelihood-ratio-estimation) with variational inference to achieve a scalable simulation-based inference approach. SNVI maintains the flexibility of likelihood(-ratio) estimation to allow arbitrary proposals for simulations, while simultaneously providing a functional estimate of the posterior distribution without requiring MCMC sampling. We present several variants of SNVI and demonstrate that they are substantially more computationally efficient than previous algorithms, without loss of accuracy on benchmark tasks. We apply SNVI to a neuroscience model of the pyloric network in the crab and demonstrate that it can infer the posterior distribution with one order of magnitude fewer simulations than previously reported. SNVI vastly reduces the computational cost of simulation-based inference while maintaining accuracy and flexibility, making it possible to tackle problems that were previously inaccessible.

研究の動機と目的

• 尤度が計算不能なモデルにおけるベイズ推論のためのスケーラブルで効率的な手法の開発。
• 尤度比に基づくSBI手法におけるMCMCサンプリングの計算ボトルネックの克服。
• 事後分布に焦点を当てる手法とは異なり、提案分布と事前分布の更新における柔軟性の維持。
• 現実のシミュレータで生じる無効な出力（例：NaN）をデータを破棄せずに処理する。
• 従来のSBI手法よりも著しく少ないシミュレーション回数で高い正確性を達成すること。

提案手法

• SNVIは、正規化フローを用いて尤度 $p({\bm{x}}|{\bm{\theta}})$ をモデル化するニューラル尤度比推定器を訓練する。
• 一般化された発散（例：f-発散）を用いた変分推論により、事後分布近似 $q_\phi({\bm{\theta}}|{\bm{x}})$ を学習する。
• 後続のラウンドにおけるアクティブラーニングを支援するため、後期推定を精緻化するためにサンプリング重要度再抽出（SIR）を用いる。
• 無効なシミュレーションの補正のため、有効性確率 $P(\text{有効}|{\bm{\theta}})$ を推定する別個の深層論理回帰分類器を採用する。
• 尤度モデルは各ラウンドで有効なシミュレーションのみを用いて再訓練され、分類器は重み付きバイナリクロスエントロピーを用いて同時に更新される。
• 後続のラウンドで事後分布の不確実性に基づいて新たなシミュレーションが適応的に選択される順次訓練スキームを採用する。

実験結果

リサーチクエスチョン

• RQ1 変分推論を尤度比推定と効果的に組み合わせることで、高速かつスケーラブルなシミュレーションベース推論を実現できるか？
• RQ2 データを破棄せずに、無効なシミュレーション出力を処理する方法は何か？
• RQ3 SNVIは最先端のSBI手法と同等の正確性を達成しながら、シミュレーションコストを低減できるか？
• RQ4 事後分布に焦点を当てる手法とは異なり、SNVIは事前分布の更新と提案分布の柔軟性を維持できるか？
• RQ5 SIRと一般発散の使用は、rKLに基づく変分推論と比較して、事後分布近似をどのように改善するか？

主な発見

• SNVIは、カブの pyloric 神経ネットワークをモデル化する複雑な神経科学的モデルにおいて、必要なシミュレーション回数を1桁低減（約10万回から約1万回）した。
• SNLE や SNRE と同等の事後分布推定の正確性を達成したが、テスト段階でMCMCサンプリングを必要としなかった。
• 有効性推定のための分類器は、尤度モデルの訓練よりも約3倍安価に実行でき、追加の計算コストを最小限に抑えた。
• 尤度モデルと有効性モデルの合計実行時間は、無効なシミュレーションを含むすべてのシミュレーションを訓練する場合よりも顕著に低く、無効なシミュレーションをダミー値に置き換えた場合でさえも同様であった。
• 高い無効シミュレーション率（最大90％）に対しても、有効性確率推定器による適切な補正により、ロバスト性を維持した。
• 追加の後処理としてモード探索発散（例：α=0.5のα-発散）を用いることで、有効率を94％まで向上させたが、これはコア手法の一部ではなく、モード探索バイアスの可能性を生じさせた。