[論文レビュー] Optimization Monte Carlo: Efficient and Embarrassingly Parallel Likelihood-Free Inference

Edward Meeds, Max Welling|UvA-DARE (University of Amsterdam)|Jun 11, 2015

Markov Chains and Monte Carlo Methods参考文献 18被引用数 15

ひとこと要約

この論文は、シミュレータのランダムネスを外部のランダムベクトルによって制御可能なものとみなすことで、ABC推論を並列化可能な最適化問題に変換する、尤度関数フリー推論手法である最適化モンテカルロ（OMC）を導入する。各ランダムベクトルに対して、シミュレートされたデータと観測データの差違を最小化する最適化を実行し、事前分布とヤコビアンを用いて再重み付けすることで、従来のABCよりも少ないシミュレーション回数で有効な事後分布推定が得られる。これにより、証明可能な誤差バウンダを備えた、並列性が著しく高く、いつでも結果を得られるサンプリングが可能となる。

ABSTRACT

We describe an embarrassingly parallel, anytime Monte Carlo method for likelihood-free models. The algorithm starts with the view that the stochasticity of the pseudo-samples generated by the simulator can be controlled externally by a vector of random numbers u, in such a way that the outcome, knowing u, is deterministic. For each instantiation of u we run an optimization procedure to minimize the distance between summary statistics of the simulator and the data. After reweighing these samples using the prior and the Jacobian (accounting for the change of volume in transforming from the space of summary statistics to the space of parameters) we show that this weighted ensemble represents a Monte Carlo estimate of the posterior distribution. The procedure can be run embarrassingly parallel (each node handling one sample) and anytime (by allocating resources to the worst performing sample). The procedure is validated on six experiments.

研究の動機と目的

• 従来のABCのような尤度関数フリー推論手法が、1サンプルあたり多数のシミュレータ呼び出しを要する非効率性を是正すること。
• ランダム数生成をシミュレータから分離することで、尤度関数フリー推論における、並列性が著しく高く、いつでもサンプリング可能な仕組みを実現すること。
• 制御可能なランダム入力に対する最適化を用いることで、独立で重み付けされたサンプルを生成し、真の事後分布を近似する手法を提供すること。
• MCMCに最適化を置き換えることで計算効率を向上させつつ、事前分布とヤコビアンを用いた適切な再重み付けにより正しさを保つこと。
• 自動微分やベイズ最適化といった高度な最適化手法を、シミュレータベース推論に自然に統合できることを実現すること。

提案手法

• ランダム数生成を外部化することで、シミュレータを決定的とみなす：各シミュレーションはランダム数ベクトル $\bm{u}$ によってパラメータ化され、$\bm{u}$ が与えられれば出力は決定的になる。
• 各 $\bm{u}$ に対して、シミュレートされたデータの要約統計量と観測データとの間の距離を最小化する最適化問題を解く。
• 各最適化されたパrameter値を、事前密度およびヤコビアン行列式の逆数を用いて再重み付けし、$\bm{u}$ 空間からパrameter空間への変換に伴う体積変化を補正する。
• 得られた最適化されたパrameterの重み付きアンサンブルが、事後分布のモンテカルロ推定値を形成する。
• 有限差分または自動微分を用いてヤコビアンを計算し、勾配に基づく最適化を可能にする。
• 各 $\bm{u}$ を独立したプロセッサに割り当てることで、並列実行を容易にし、性能が低いサンプルを再処理することで、いつでもサンプリングを可能にする。

実験結果

リサーチクエスチョン

• RQ1 ランダム数生成を外部化することで、尤度関数フリー推論を並列性が著しく高いものにできるか？
• RQ2 ABCを最適化問題に変換することで、1有効サンプルあたりのシミュレータ呼び出し回数を削減できるか？
• RQ3 適切に事前分布とヤコビアンによる再重み付けを施した制御可能なランダム入力に対する最適化により、事後分布を一貫して推定できるか？
• RQ4 最適解から $\epsilon$ 離れの最適化精度を持つ場合、誤差はどのようにスケーリングされ、$\mathcal{O}(\epsilon)$ の誤差を達成できるか？
• RQ5 自動微分やベイズ最適化といった高度な最適化手法が、このフレームワークに自然に統合できるか？

主な発見

• OMCは、ABC-within-ABC や SMC-ABC よりもシミュレーション回数を削減し、Lotka-Volterra モデルにおいて $\epsilon = 3$ 時に1サンプルあたり15回のシミュレーションで推定を達成した。これに対して、他の手法では116～159回であった。
• $\epsilon = 3$ 時に、OMCは1回のシミュレーションあたりの有効サンプルサイズ（ESS/n）が0.25であったが、これはSMC-ABCの0.9よりも低く、ヤコビアンの影響による重みの分散が高いためである。
• M/G/1 キューイングモデルでは、9%の差違が $\epsilon = 1$ を満たしたが、SMCでは12%であった。これはヤコビアンの体積効果が重みの分散に与える影響が顕著であることを示している。
• 最適化が最適解から $\epsilon$ 離れの精度を持つ場合、$\mathcal{O}(\epsilon)$ の誤差を達成でき、理論的収束保証が得られる。
• OMCはいつでもサンプリングと完全な並列化を実現しており、各プロセッサが独立して1つの $\bm{u}$ を最適化し、性能が低いサンプルを再処理することで結果を段階的に改善できる。
• このフレームワークは自動微分やベイズ最適化と互換性があり、将来的に高次元かつ高コストなシミュレータへのスケーラビリティを実現できる。