[论文解读] Sampling from multi-modal distributions on Riemannian manifolds with training-free stochastic interpolants

Alain Durmus, Maxence Noble+1 more|arXiv (Cornell University)|Jan 31, 2026

Markov Chains and Monte Carlo Methods被引用 0

一句话总结

论文提出 FRIPS，一种在黎曼流形上通过模拟非平衡确定性流来将噪声输运到目标、并通过黎曼随机插值框架保持边际分布的、无需训练的采样方法，从未归一化密度中采样。

ABSTRACT

In this paper, we propose a general methodology for sampling from un-normalized densities defined on Riemannian manifolds, with a particular focus on multi-modal targets that remain challenging for existing sampling methods. Inspired by the framework of diffusion models developed for generative modeling, we introduce a sampling algorithm based on the simulation of a non-equilibrium deterministic dynamics that transports an easy-to-sample noise distribution toward the target. At the marginal level, the induced density path follows a prescribed stochastic interpolant between the noise and target distributions, specifically constructed to respect the underlying Riemannian geometry. In contrast to related generative modeling approaches that rely on machine learning, our method is entirely training-free. It instead builds on iterative posterior sampling procedures using only standard Monte Carlo techniques, thereby extending recent diffusion-based sampling methodologies beyond the Euclidean setting. We complement our approach with a rigorous theoretical analysis and demonstrate its effectiveness on a range of multi-modal sampling problems, including high-dimensional and heavy-tailed examples.

研究动机与目标

• 在黎曼流形上对目标分布进行采样的动机，包括多模态目标和受限几何形状。
• 在没有训练数据或学习到的分数模型的情况下，将扩散模型理念扩展到流形环境。
• 开发一个实际可用的、无需训练的迭代后验采样框架（FRIPS），并提供理论保证。
• 提供适用于 Rd 与 Sd 等流形的黎曼随机插值及其马尔可夫投影的明确公式化。

提出的方法

• 构建一个黎曼随机插值器，将易于采样的噪声分布与目标在流形上连接起来。
• 定义一个随时间变化的基于测地线的插值，在流形上创建平滑的密度路径。
• 推导一个随时间变化的速度场，通过连续性方程保持边际，并通过马尔可夫投影到一个 ODE 流。
• 在不训练分数模型的情况下，利用去噪后验的蒙特卡洛采样来即时估计速度场。
• 在流形上使用欧拉法对概率流 ODE 进行离散化，并为 X0 实现实用的初始化方案。
• 提供 Rd 与 Sd 的特例表达式，便于高效部署 FRIPS。

实验结果

研究问题

• RQ1 如何在一般黎曼流形上对未归一化、可能是多模态的密度进行采样？
• RQ2 是否可以在没有训练数据或学习到的分数的情况下，将扩散/模型为基础的采样思想应用于流形？
• RQ3 在黎曼随机插值及其马尔可夫投影上，确保边际随时间保持的理论条件是什么？
• RQ4 如何在诸如 Rd 与 Sd 等流形上实际实现无需训练、基于流的采样器（FRIPS）？
• RQ5 与现有的黎曼采样器相比，FRIPS 在高维或重尾、多模态目标上的性能能达到何种程度？

主要发现

• FRIPS 提供一个无需训练的框架，通过在黎曼流形上进行非平衡确定性动力学，将噪声分布输运到目标。
• 构建了一个黎曼随机插值路径，采用基于测地线的插值和保持时间边际的马尔可夫投影。
• 驱动流的速度场表示为对去噪后验的条件期望，并通过蒙特卡洛方法进行估计。
• 该方法在流形上给出一个离散化的欧拉样的方案，便于从初始分布 πt0 开始进行实际采样。
• 为 Rd 与 Sd 提供了显式表达式，使在这些空间上实现 FRIPS 变得高效。
• 该方法在提出的实验中展现出处理多模态、高维和重尾目标的能力。