[论文解读] Ensemble Slice Sampling: Parallel, black-box and gradient-free inference for correlated & multimodal distributions

Minas Karamanis, Florian Beutler|arXiv (Cornell University)|Feb 14, 2020

Bayesian Methods and Mixture Models参考文献 31被引用 12

一句话总结

本文提出集成切片采样（Ensemble Slice Sampling, ESS），一种并行、黑箱且无梯度的马尔可夫链蒙特卡洛方法，能够自适应地调整初始长度尺度，并利用一组随机行走者高效地从高度相关和多模态分布中采样。ESS 在传统 MCMC 方法基础上实现了高达一个数量级的采样效率提升，尤其在高维、非线性相关及强多模态目标分布中表现卓越。

ABSTRACT

Slice Sampling has emerged as a powerful Markov Chain Monte Carlo algorithm that adapts to the characteristics of the target distribution with minimal hand-tuning. However, Slice Sampling's performance is highly sensitive to the user-specified initial length scale hyperparameter and the method generally struggles with poorly scaled or strongly correlated distributions. This paper introduces Ensemble Slice Sampling (ESS), a new class of algorithms that bypasses such difficulties by adaptively tuning the initial length scale and utilising an ensemble of parallel walkers in order to efficiently handle strong correlations between parameters. These affine-invariant algorithms are trivial to construct, require no hand-tuning, and can easily be implemented in parallel computing environments. Empirical tests show that Ensemble Slice Sampling can improve efficiency by more than an order of magnitude compared to conventional MCMC methods on a broad range of highly correlated target distributions. In cases of strongly multimodal target distributions, Ensemble Slice Sampling can sample efficiently even in high dimensions. We argue that the parallel, black-box and gradient-free nature of the method renders it ideal for use in scientific fields such as physics, astrophysics and cosmology which are dominated by a wide variety of computationally expensive and non-differentiable models.

研究动机与目标

• 开发一种无需手动调节超参数的黑箱 MCMC 方法，以适用于复杂且计算成本高昂的模型。
• 解决标准切片采样对初始长度尺度超参数敏感的问题。
• 提升在强相关性和多模态分布中的采样效率，尤其是在高维情况下。
• 实现 MCMC 采样的并行化，以适用于天体物理学和宇宙学等科学领域中不可微分的模型。
• 创建一种仿射不变的方法，对参数缩放和相关性具有鲁棒性。

提出的方法

• ESS 使用一组并行行走者，通过随机逼近方法相互协作，自适应地调节初始长度尺度超参数。
• 该算法通过使用均匀辅助变量定义水平切片，然后扩展和收缩区间以寻找有效样本，执行切片采样更新。
• 采用多种移动类型——局部移动、高斯移动和全局移动，其中全局移动可实现跨多模态分布的大范围跳跃。
• 该方法本质上具有仿射不变性，对线性相关性和参数缩放具有鲁棒性。
• ESS 利用集合估计提议分布，从而在不依赖梯度信息的情况下提升探索效率。
• 该算法专为并行执行设计，每个行走者独立地从其自身的切片中采样，从而高效利用多核计算环境。

实验结果

研究问题

• RQ1 无梯度、黑箱的 MCMC 方法是否能在无需手动调参的情况下，对高度相关和多模态分布实现高采样效率？
• RQ2 与 Metropolis 和标准切片采样等传统 MCMC 方法相比，ESS 在有效样本量和自相关性方面表现如何？
• RQ3 ESS 在高维、强多模态分布（如高斯混合分布）中能否实现高效采样？
• RQ4 基于集合的初始长度尺度超参数自适应调节是否显著优于固定或人工调优的尺度，从而提升收敛性和混合性？
• RQ5 在非线性相关分布中，ESS 是否能超越最先进的集合 MCMC 方法（如 AIES 和 DEMC）？

主要发现

• 在 AR(1) 和漏斗分布等相关分布上，ESS 的采样效率比 Metropolis 和标准切片采样高出一个数量级以上。
• 在相关漏斗分布中，ESS 在每轮密度评估下的有效样本量比标准切片采样高出一个数量级。
• 在非线性相关分布（如环形分布和高斯壳层）中，ESS 的效率比 AIES 和 DEMC 高出 1 至 2 个数量级。
• 在高维（50D）高斯混合模型中，ESS 是唯一能可靠地在各模态间采样的方法，而其他方法无法收敛。
• 在真实世界中的层次高斯过程回归任务中，ESS 的效率比 AIES 和 DEMC 高出 1 至 2 个数量级。
• 在贝叶斯目标检测问题中，ESS 的准确率高于 AIES 和 DEMC，证明了其在复杂真实场景中的鲁棒性。