[论文解读] Sub-Cauchy Sampling: Escaping the Dark Side of the Moon

Sebastiano Grazzi, Sifan Liu+2 more|Research at the University of Copenhagen (University of Copenhagen)|Jan 16, 2026

Markov Chains and Monte Carlo Methods被引用 0

一句话总结

论文提出了 Sub-Cauchy Projection Sampler (SCS)，一种基于 Metropolis 的 MCMC 方法，通过将目标变换为球冠并在亮侧采样，实现对 sub-Cauchy（重尾）目标的全局遍历性（uniform ergodicity）。相较于其他方法，在高维重尾情形下显示出更优 performance。

ABSTRACT

We introduce a Markov chain Monte Carlo algorithm based on Sub-Cauchy Projection, a geometric transformation that generalizes stereographic projection by mapping Euclidean space into a spherical cap of a hyper-sphere, referred to as the complement of the dark side of the moon. We prove that our proposed method is uniformly ergodic for sub-Cauchy targets, namely targets whose tails are at most as heavy as a multidimensional Cauchy distribution, and show empirically its performance for challenging high-dimensional problems. The simplicity and broad applicability of our approach open new opportunities for Bayesian modeling and computation with heavy-tailed distributions in settings where most existing methods are unreliable.

研究动机与目标

• 在贝叶斯推断中针对重尾后验分布的计算挑战进行动机阐述并提出解决方案。
• 提出一个通用、 principled 的 MCMC 算法，对 sub-Cauchy 分布具有统一遍历性。
• 开发 Sub-Cauchy Projection (SCP) 与 Sub-Cauchy Projection Sampler (SCS)，并具有可调节的观测参数。
• 提供参数调优的实用指南，并展示相较现有方法的性能提升。
• 给出统一遍历性保证并说明其在高维鲁棒贝叶斯模型中的适用性。

提出的方法

• 将原始空间 R^d 映射到球冠，通过 Sub-Cauchy Projection SCP_o。
• 在球的亮侧定义一个随机游走型 Metropolis 采样器（SCS）。
• 使用 stepping-out 机制将来自暗侧的提议拉回亮侧，同时保持细致平衡。
• 在 Metropolis 接受率中计算包含 SCP 的雅可比行列式 J_theta 的密度比。
• 提供 SCP 与 Cauchy 及球面投影（示例 1 与示例 2）之间的特例表达式。
• 提供变分调参方法，使被变换的目标在亮侧接近均匀分布。

实验结果

研究问题

• RQ1 一个经过 Metropolis 调整的算法是否可以对多维 sub-Cauchy 目标实现统一遍历性？
• RQ2 在实践中如何调优 SCP 参数以实现重尾后验的快速混合？
• RQ3 SCS 是否在高维重尾问题中优于传统 MCMC 方法（如 RWM、MALA、HMC）及 Gibbs 采样器？
• RQ4 将重尾目标转换为球面进行采样的理论与经验含义是什么？
• RQ5 变分基的调优方法在实现亮侧接近均匀密度方面有多大效果？

主要发现

• SCS 在固定观测纬度 [1,2) 的情况下对 sub-Cauchy 目标具有统一遍历性。
• SCS 对目标的收敛为指数级，且收敛速率与起始值无关（统一遍历性）。
• 经验结果显示在高维重尾问题中，相较于 RWM、SPS 和 HMC，SCS 能更快地探索后验尾部并提高效率。
• SCP 映射在亮侧给出有界密度，除了北极点附近，这有助于对偏斜/重尾分布的混合。
• 变分方法可调优 SCP 参数以近似亮侧的均匀性，从而改善混合。
• 在鲁棒贝叶斯二元回归的分离性情形下，SCS 相较 Gibbs 采样显示出优势。