[论文解读] Adversarial Variational Optimization of Non-Differentiable Simulators

Gilles Louppe, Joeri Hermans+1 more|arXiv (Cornell University)|Jul 22, 2017

Generative Adversarial Networks and Image Synthesis参考文献 39被引用 19

一句话总结

本文提出对抗变分优化（AVO），一种用于不可微模拟器的无似然推断方法，结合生成对抗网络与变分优化，以最小化对抗目标的变分上界。AVO 在无需可 tractable 似然或摘要统计量的情况下，实现了复杂科学模拟器中的高效参数估计，在粒子物理与种群遗传学等基准测试中性能与 ABC-SMC 和 BOLFI 相当。

ABSTRACT

Complex computer simulators are increasingly used across fields of science as generative models tying parameters of an underlying theory to experimental observations. Inference in this setup is often difficult, as simulators rarely admit a tractable density or likelihood function. We introduce Adversarial Variational Optimization (AVO), a likelihood-free inference algorithm for fitting a non-differentiable generative model incorporating ideas from generative adversarial networks, variational optimization and empirical Bayes. We adapt the training procedure of generative adversarial networks by replacing the differentiable generative network with a domain-specific simulator. We solve the resulting non-differentiable minimax problem by minimizing variational upper bounds of the two adversarial objectives. Effectively, the procedure results in learning a proposal distribution over simulator parameters, such that the JS divergence between the marginal distribution of the synthetic data and the empirical distribution of observed data is minimized. We evaluate and compare the method with simulators producing both discrete and continuous data.

研究动机与目标

• 解决缺乏可 tractable 似然或可微性的科学模拟器中的参数推断挑战。
• 开发一种可扩展的无似然推断算法，避免拒绝采样型 ABC 方法的低效性。
• 通过变分近似在隐式生成模型中实现经验贝叶斯推断。
• 在不依赖摘要统计量的情况下，使合成数据的边际分布与观测数据相匹配。
• 利用变分上界为不可微模拟器提供可微优化路径。

提出的方法

• 用领域特定的不可微模拟器替代 GAN 中的可微生成器。
• 将推断问题表述为对模拟器参数的极小极大优化，利用判别器区分真实数据与合成数据。
• 通过最小化对抗目标的变分上界来处理不可微性。
• 使用对数似然比的变分近似，实现对参数上界分布的基于梯度的优化。
• 通过交替随机梯度下降联合训练模拟器与判别器，生成器参数通过变分界进行优化。
• 优化提议分布，以最小化经验数据分布与合成数据分布之间的 Jensen-Shannon 散度。

实验结果

研究问题

• RQ1 对抗训练能否被适配于不可微模拟器以实现无似然推断？
• RQ2 如何利用变分上界来优化隐式模型中不可微的极小极大目标？
• RQ3 AVO 在准确性和效率方面是否优于 ABC-SMC 与 BOLFI 等成熟无似然方法？
• RQ4 当似然曲面退化或存在多峰时，AVO 是否仍能获得良好的参数估计？
• RQ5 AVO 是否能避免在复杂科学模拟器中使用摘要统计量或拒绝采样？

主要发现

• 尽管损失函数图中存在明显的参数估计误差，AVO 在 Weinberg 基准测试中仍与 ABC-SMC 和 BOLFI 表现相当。
• 该方法在多个参数配置下成功匹配了经验数据分布，即使真实参数无法唯一识别。
• 在 Weinberg 基准测试中，AVO、SMC-ABC 和 BOLFI 均生成了与观测数据高度匹配的合成数据分布，表明对参数退化具有鲁棒性。
• 参数空间中存在宽广的极小值，解释了即使数据生成良好近似，参数估计仍存在高 L2 误差的原因。
• AVO 避免了 ABC 拒绝采样的低效性，且无需人为设计的摘要统计量，适用于复杂模拟器。
• 当模型设定正确时，AVO 提供一致的点估计，其渐近收敛于真实数据生成参数。