[論文レビュー] Sequential Neural Methods for Likelihood-free Inference

Conor Durkan, George Papamakarios+1 more|arXiv (Cornell University)|Nov 21, 2018

Machine Learning and Algorithms参考文献 18被引用数 6

ひとこと要約

本稿では、尤度フリー推論のための3つの逐次的ニューラル手法—順次的ニューラル後方分布推定（SNPE）、順次的ニューラル尤度（SNL）、アクティブな順次的ニューラル尤度（ASNL）—を制御された比較によって提示する。同じ混合密度ネットワーク（MDN）アーキテクチャと確率的変分ベイズ推論（SVI）を用いて、尤度の代理関数を学習する（SNL）方が、直接後方分布を学習する（SNPE-B）よりも、より効率的かつ正確であることが判明した。また、ベイズ的不確実性に基づくアクティブラーニング（ASNL）は、SNLのヒューリスティックサンプリングよりも顕著な改善をもたらさなかった。

ABSTRACT

Likelihood-free inference refers to inference when a likelihood function cannot be explicitly evaluated, which is often the case for models based on simulators. Most of the literature is based on sample-based `Approximate Bayesian Computation' methods, but recent work suggests that approaches based on deep neural conditional density estimators can obtain state-of-the-art results with fewer simulations. The neural approaches vary in how they choose which simulations to run and what they learn: an approximate posterior or a surrogate likelihood. This work provides some direct controlled comparisons between these choices.

研究の動機と目的

• 同一の実験条件下でSNPE、SNL、ASNLの性能を直接比較すること。
• ベイズ的不確実性に基づくアクティブラーニングが、SNLにおけるヒューリスティックサンプリングと比較して推論の効率を向上させるかを評価すること。
• 直接後方分布を学習するのではなく、尤度の代理関数を学習する方が効果的かどうかを調査すること。
• ベイズモデルの不確実性が、ニューラル尤度フリー推論におけるアクティブラーニングに与える影響を評価すること。

提案手法

• すべての手法が、密度推定に同一の混合密度ネットワーク（MDN）アーキテクチャを使用する。
• ニューラル密度推定器の訓練には、過学習を防ぐためにモデルパラメータのベイズ推論を可能にする確率的変分ベイズ推論（SVI）が用いられる。
• SNPEは、シミュレータが生成した $ (\bm{\theta}, \mathbf{x}) $ ペairを用いて、近似後方分布 $ q_{\bm{\phi}}(\bm{\theta}|\mathbf{x}_0) $ を学習する。
• SNLは、MCMCを用いて現在の後方分布からパラメータをサンプリングし、尤度の代理関数 $ q_{\bm{\phi}}(\mathbf{x}_0|\bm{\theta}) \approx p(\mathbf{x}_0|\bm{\theta}) $ を学習する。
• ASNLは、最大分散（MaxVar）の獲得関数を用いたアクティブラーニングのコンponentをSNLに拡張し、尤度推定の分散を最大化する $ \bm{\theta} $ を選択する。
• 獲得関数は、$ \mathbb{V}_{\bm{\phi}}[q_{\bm{\phi}}(\mathbf{x}_0|\bm{\theta})] $ のモンテカルロ推定を用いて計算され、数値的に安定な $ \log \mathbb{V}[e^a] $ の対数スケール近似が用いられる。

実験結果

リサーチクエスチョン

• RQ1 尤度の代理関数を学習する（SNL）ことが、直接後方分布を学習する（SNPE-B）よりも、正確性および効率性において優れているか？
• RQ2 ベイズ的モデル不確実性に基づくアクティブラーニングは、SNLにおけるヒューリスティックサンプリングと比較して、推論性能を向上させられるか？
• RQ3 SNLとASNLが生成するシミュレータパラメータの分布は、真のパラメータの周囲での探索性と集中性の観点から、どのように異なるか？
• RQ4 SNLの性能向上は、尤度モデリングの選択によるものか、それともアーキテクチャ的・訓練的差異に起因するものか？

主な発見

• SNLは、ガウス分布およびロトカ＝ヴォリエーラの両タスクにおいて、真のパラメータの対数尤度がSNPE-Bよりも高い値を達成した。
• SNLはSNPE-Bを上回る性能を示し、ガウスタスクにおいて10^4回のシミュレーションを実行するのに7.48時間で完了したのに対し、ASNLは91.73時間かかった。
• ASNLは、不確実性に基づくアクティブラーニングを採用しているにもかかわらず、SNLの性能を顕著に改善しなかった。また、事前分布の境界付近を広く探索する傾向を示した。
• SNLは真のパラメータの周囲に集中したシミュレータパラメータを生成するのに対し、ASNLは事前分布の境界付近を探索しており、より焦点のないサンプリングであることが示唆された。
• 獲得関数における分散推定の数値的安定性は、$ \log \mathbb{V}[e^a] $ の対数スケール近似により確保され、信頼性の高い不確実性評価が可能になった。
• 結果から、同じニューラルアーキテクチャと訓練手順を用いても、尤度を直接モデリングする方が、後方分布を直接モデリングするよりも効率的であることが示唆された。