[論文レビュー] Likelihood-free inference with an improved cross-entropy estimator

Markus Stoye, Johann Brehmer+3 more|arXiv (Cornell University)|Aug 2, 2018

Gaussian Processes and Bayesian Inference参考文献 23被引用数 21

ひとこと要約

本稿では、シミュレータから抽出した連関尤度比とスコアを活用する改良された交差エントロピー推定器を用いた、尤度フリー推論のための2つの手法、Alice および Alices を提案する。訓練目的関数における分散を低減することで、Rascal や Cascal や Rolr といった先行手法と比較して、特に限られた訓練データ下で顕著に高いサンプル効率を達成する。

ABSTRACT

We extend recent work (Brehmer, et. al., 2018) that use neural networks as surrogate models for likelihood-free inference. As in the previous work, we exploit the fact that the joint likelihood ratio and joint score, conditioned on both observed and latent variables, can often be extracted from an implicit generative model or simulator to augment the training data for these surrogate models. We show how this augmented training data can be used to provide a new cross-entropy estimator, which provides improved sample efficiency compared to previous loss functions exploiting this augmented training data.

研究の動機と目的

• 複雑なシミュレータのため尤度が計算不能となる状況下で、尤度フリー推論におけるサンプル非効率性の課題に対処すること。
• 代理モデルの訓練に用いる損失関数の分散を低減することで、訓練の安定性と収束性を向上させること。
• シミュレータから抽出した追加情報（連関尤度比とスコア）を活用し、ニューラルネットワークベースの尤度比推定器の品質を向上させること。
• 有限サンプル領域において、標準的な平均二乗誤差やベースライン交差エントロピー手法を上回る性能を示す新しい交差エントロピー推定器を開発すること。
• 改善された推定器が、特にデータが少ない領域において、より信頼性が高く、きめ細やかな統計的推定区間を提供することを示すこと。

提案手法

• 本手法は、シミュレータから抽出した連関尤度比 $ r(x,z|\theta_0,\theta_1) $ と連関スコア $ t(x,z|\theta_0) $ を補助的訓練信号として用いる。
• 標準的なバイナリラベル $ y_i \in \{0,1\} $ の代わりに、扱いやすい $ s(x,z|\theta_0,\theta_1) = \frac{1}{r(x,z|\theta_0,\theta_1)+1} $ をターゲットとする新しい交差エントロピー損失 $ L_{\textsc{Alice}} $ を導入する。
• この改善された推定器は、標準的な交差エントロピー損失や平均二乗誤差損失と比較して、損失関数の分散を低減し、より高速かつ安定した訓練を実現する。
• 本手法は、二値交差エントロピーフレームワークを複数のパrameter ポイントに一般化する Alices に拡張される。この際、ペアワイズの連関尤度比が用いられる。
• 性能は、合成的および実世界の素粒子物理学シミュレーションを用いて検証され、頻度的カバレッジと除外限界を指標として評価される。
• 訓練目的関数は、尤度比を近似するためのニューラルネットワークを用いて最適化され、性能はネイマン構成と真の値との比較によって評価される。

実験結果

リサーチクエスチョン

• RQ1 シミュレータから抽出した連関尤度比に基づく分散低減型交差エントロピー推定器は、尤度フリー推論におけるサンプル効率を向上させ得るか？
• RQ2 限られた訓練データ下で、Rascal や Cascal や Rolr といった既存手法と比較して、新しい推定器の収束速度と精度はどの程度優れているか？
• RQ3 改善された推定器は、ベースライン手法と比較して、統計的除外限界における過剰な楽観的傾向（over-optimism）をどの程度低減するか？
• RQ4 交差エントロピーフレームワークは、二値比較を超えて、ペアワイズの連関尤度比を用いた多パrameter 推論へ一般化可能か？
• RQ5 連関尤度比とスコアの使用は、信頼区間構築における頻度的カバレッジの信頼性を向上させるか？

主な発見

• Alice および Alices は、特に $ 10^5 $ 個のサンプルという小規模な訓練データセット下で、Rolr や Cascal や Rascal より顕著に高いサンプル効率を達成する。
• 改善された交差エントロピー推定器は損失関数の分散を低減し、ニューラルネットワーク代理モデルの訓練がより高速かつ安定する。
• 検出器効果を含む素粒子物理学のシナリオにおいて、Alices は限られたデータ下でも真の尤度比に基づく除外限界とほとんど区別できない結果を生成する。
• 両手法は、訓練データが限られる状況下で、Rascal や Cascal よりも頻度的信頼区間のカバレッジと精度が優れている。
• $ 10^7 $ 個の訓練サンプルを用いる場合、Alice、Alices、Rascal の性能はほとんど区別できず、強い漸近的収束を示す。
• 本手法は、Rolr で見られるような過剰な楽観的区間を避けることができ、ネイマン構成下でも適切なカバレッジを維持するという点で、過剰な楽観的傾向に対して頑健である。