[論文レビュー] Adversarial Variational Optimization of Non-Differentiable Simulators

Gilles Louppe, Joeri Hermans+1 more|arXiv (Cornell University)|Jul 22, 2017

Generative Adversarial Networks and Image Synthesis参考文献 39被引用数 19

ひとこと要約

本稿では、微分可能でないシミュレータにおける尤度フリー推論のためのアプローチとして、敵対的生成ネットワークと変分最適化を組み合わせた、Adversarial Variational Optimization (AVO) を提案する。AVO は、敵対的目的における変分上界を最小化することで、微分不能なシミュレータにおいて効率的なパrameter推定を可能にし、解析的尤度や要約統計量を必要としない。粒子物理学や集団遺伝学のベンチマークにおいて、ABC-SMC や BOLFI と同等の性能を達成している。

ABSTRACT

Complex computer simulators are increasingly used across fields of science as generative models tying parameters of an underlying theory to experimental observations. Inference in this setup is often difficult, as simulators rarely admit a tractable density or likelihood function. We introduce Adversarial Variational Optimization (AVO), a likelihood-free inference algorithm for fitting a non-differentiable generative model incorporating ideas from generative adversarial networks, variational optimization and empirical Bayes. We adapt the training procedure of generative adversarial networks by replacing the differentiable generative network with a domain-specific simulator. We solve the resulting non-differentiable minimax problem by minimizing variational upper bounds of the two adversarial objectives. Effectively, the procedure results in learning a proposal distribution over simulator parameters, such that the JS divergence between the marginal distribution of the synthetic data and the empirical distribution of observed data is minimized. We evaluate and compare the method with simulators producing both discrete and continuous data.

研究の動機と目的

• 解析的尤度や微分可能性を欠く科学的シミュレータにおけるパrameter推定の課題に対処すること。
• 再帰的サンプリングに依存する ABC 法の非効率性を回避するスケーラブルな尤度フリー推論アルゴリズムの開発。
• 暗黙的生成モデルにおける変分近似を用いた、実証的ベイズ推論の実現。
• 要約統計量に依存せずに、合成データの周辺分布を観測データと一致させること。
• 変分上界を用いて、微分不能なシミュレータに対して微分可能な最適化経路を提供すること。

提案手法

• GAN の微分可能な生成器を、分野特化型の微分不能なシミュレータに置き換える。
• 実データと合成データを区別する識別器を用いて、シミュレータのパラメータに関するミニマックス最適化として推論問題を定式化する。
• 非微分性に対処するため、敵対的目的における変分上界を最小化する。
• 対数尤度比の変分近似を用い、パラメータ上の提案分布の勾配ベース最適化を可能にする。
• 生成器のパラメータを変分上界を介して最適化する一方で、シミュレータと識別器を交互に確率的勾配降下法で同時に学習する。
• 実データ分布と合成データ分布の間のジェンセン・シャノン発散を最小化するように、提案分布を最適化する。

実験結果

リサーチクエスチョン

• RQ1 敵対的学習を微分不能なシミュレータに適応させ、尤度フリー推論を実現できるか？
• RQ2 変分上界を用いて、暗黙的モデルにおける非微分可能なミニマックス目的を最適化できるか？
• RQ3 AVO は、ABC-SMC や BOLFI と比較して、精度と効率の面で優れているか？
• RQ4 尤度関数の表面が退化している、もしくは多峰性を示す場合でも、AVO は良好なパラメータ推定が可能か？
• RQ5 複雑な科学的シミュレータにおいて、AVO は要約統計量や再帰的サンプリングの必要性を回避できるか？

主な発見

• AVO は、パrameter推定の誤差が損失関数の形状に顕在化しているにもかかわらず、Weinberg ベンチマークにおいて ABC-SMC や BOLFI と同等の性能を達成している。
• 真のパラメータが一意に特定できない状況下でも、複数のパラメータ設定において、実データ分布をうまく再現している。
• Weinberg ベンチマークにおいて、AVO、SMC-ABC、BOLFI はすべて、観測データとよく一致する合成データ分布を生成しており、パラメータの退化に対して強い。
• パrameter空間に広い最小値が存在するため、データ生成がよく近似されているにもかかわらず、L2 誤差が高くなる。
• AVO は ABC の再帰的サンプリングの非効率性を回避し、手動で調整する要約統計量も不要であるため、複雑なシミュレータに適している。
• モデルが適切に指定されている場合、AVO は真のデータ生成パラメータに漸近的に収束する一貫性のある点推定値を提供する。