[论文解读] Optimization Monte Carlo: Efficient and Embarrassingly Parallel Likelihood-Free Inference

Edward Meeds, Max Welling|UvA-DARE (University of Amsterdam)|Jun 11, 2015

Markov Chains and Monte Carlo Methods参考文献 18被引用 15

一句话总结

本文提出优化蒙特卡洛（OMC），一种无需似然函数的推断方法，将模拟器的随机性视为通过外部随机向量可控，从而将ABC推断转化为可并行化的优化问题。通过针对每个随机向量最小化模拟数据与观测数据之间的差异，再结合先验分布和雅可比行列式进行重加权，OMC在比传统ABC更少的模拟次数下生成有效的后验估计，实现了无需复杂协调的并行计算与任意时间采样，并具备可证明的误差界。

ABSTRACT

We describe an embarrassingly parallel, anytime Monte Carlo method for likelihood-free models. The algorithm starts with the view that the stochasticity of the pseudo-samples generated by the simulator can be controlled externally by a vector of random numbers u, in such a way that the outcome, knowing u, is deterministic. For each instantiation of u we run an optimization procedure to minimize the distance between summary statistics of the simulator and the data. After reweighing these samples using the prior and the Jacobian (accounting for the change of volume in transforming from the space of summary statistics to the space of parameters) we show that this weighted ensemble represents a Monte Carlo estimate of the posterior distribution. The procedure can be run embarrassingly parallel (each node handling one sample) and anytime (by allocating resources to the worst performing sample). The procedure is validated on six experiments.

研究动机与目标

• 为解决传统无需似然函数推断方法（如ABC）每一样本需要大量模拟器调用的低效问题。
• 通过将随机数生成与模拟器解耦，实现无需似然函数推断中的无依赖并行化与任意时间采样。
• 提出一种方法，通过在受控的随机输入上进行优化，生成独立的加权样本，以近似真实后验分布。
• 通过用优化替代MCMC并结合先验与雅可比行列式进行正确重加权，提升计算效率，同时保持方法的正确性。
• 使高级优化工具（如自动微分与贝叶斯优化）能够自然地集成到基于模拟器的推断框架中。

提出的方法

• 通过将随机数生成外部化，将模拟器视为确定性系统：每次模拟由一组外部随机数 $\bm{u}$ 参数化，使得在给定 $\bm{u}$ 时输出完全确定。
• 对每个 $\bm{u}$，求解一个优化问题，以最小化模拟数据的摘要统计与观测数据之间的距离。
• 通过先验密度和雅可比行列式逆矩阵对每个优化后的参数值进行重加权，以校正从 $\bm{u}$-空间到参数空间的体积变化。
• 由此产生的加权优化参数集合构成后验分布的蒙特卡洛估计。
• 使用有限差分或自动微分计算雅可比行列式，支持基于梯度的优化。
• 通过将每个 $\bm{u}$ 分配给独立处理器实现无依赖并行执行，并通过重新处理表现最差的样本支持任意时间采样。

实验结果

研究问题

• RQ1 通过外部化随机数生成，能否使无需似然函数推断实现无依赖并行化？
• RQ2 将ABC转化为优化问题是否能减少每个有效样本的模拟器调用次数？
• RQ3 通过在受控随机输入上进行优化并结合先验与雅可比行列式进行正确重加权，能否一致地估计后验分布？
• RQ4 该方法的误差如何随优化精度变化？当优化结果与最优解的差距为 $\epsilon$ 时，能否实现 $\mathcal{O}(\epsilon)$ 的误差？
• RQ5 自动微分与贝叶斯优化等高级优化技术能否自然地集成到该框架中？

主要发现

• 与ABC-within-ABC和SMC-ABC相比，OMC显著减少了每一样本的模拟次数：在 $\epsilon = 3$ 时，Lotka-Volterra模型仅需15次模拟，而其他方法需116至159次。
• 在 $\epsilon = 3$ 时，OMC的每模拟有效样本数（ESS/n）为0.25，低于SMC-ABC的0.9，这是由于雅可比行列式效应导致权重方差更高。
• 在M/G/1队列模型中，9%的差异满足 $\epsilon = 1$，而SMC为12%，表明雅可比行列式对权重方差的影响更大。
• 当优化结果与最优解的差距为 $\epsilon$ 时，该方法可实现 $\mathcal{O}(\epsilon)$ 的误差，提供了理论收敛保证。
• OMC支持任意时间采样与完全并行化，每个处理器独立优化一个 $\bm{u}$，并通过重新处理表现较差的样本逐步提升结果。
• 该框架兼容自动微分与贝叶斯优化，为未来在高维与计算昂贵的模拟器中实现可扩展性提供了可能。