[논문 리뷰] Sampling from multi-modal distributions on Riemannian manifolds with training-free stochastic interpolants

Alain Durmus, Maxence Noble외 1명|arXiv (Cornell University)|2026. 01. 31.

Markov Chains and Monte Carlo Methods인용 수 0

한 줄 요약

본 논문은 FRIPS를 소개합니다. 이는 비정규화된 밀도에서 Riemannian 매니폴드 상의 샘플링을 위해, 마진을 보존하는 Riemannian 확률적 보간자 프레임워크를 통해 노이즈를 대상 분포로 운반하는 비평형 결정적 흐름을 시뮬레이션하는 훈련 없는 방법입니다.

ABSTRACT

In this paper, we propose a general methodology for sampling from un-normalized densities defined on Riemannian manifolds, with a particular focus on multi-modal targets that remain challenging for existing sampling methods. Inspired by the framework of diffusion models developed for generative modeling, we introduce a sampling algorithm based on the simulation of a non-equilibrium deterministic dynamics that transports an easy-to-sample noise distribution toward the target. At the marginal level, the induced density path follows a prescribed stochastic interpolant between the noise and target distributions, specifically constructed to respect the underlying Riemannian geometry. In contrast to related generative modeling approaches that rely on machine learning, our method is entirely training-free. It instead builds on iterative posterior sampling procedures using only standard Monte Carlo techniques, thereby extending recent diffusion-based sampling methodologies beyond the Euclidean setting. We complement our approach with a rigorous theoretical analysis and demonstrate its effectiveness on a range of multi-modal sampling problems, including high-dimensional and heavy-tailed examples.

연구 동기 및 목표

• Riemannian 매니폴드에서 다모달 타깃 및 제약 기하를 포함한 타깃 분포에서 샘플링을 동기부여합니다.
• 훈련 데이터나 학습된 스코어 모델 없이 매니폴드 설정으로 확산 모델 아이디어를 확장합니다.
• 이론적 보장을 갖춘 실용적인, 훈련 없는 반복적 후사 샘플링 프레임워크(FRIPS)를 개발합니다.
• Rd와 Sd 같은 매니폴드에 적합한 Riemannian 확률적 보간자와 그 마코프 투영의 명시적 표현을 제공합니다.

제안 방법

• 쉬운 샘플링이 가능한 노이즈 분포와 매니폴드의 타깃을 연결하는 Riemannian 확률적 보간자를 구성합니다.
• 측지 기반 보간을 정의하여 매니폴드 상에서 매끄러운 밀도 경로를 만듭니다.
• 연속 방정식과 ODE 흐름으로의 마크오프 투영을 통해 마진을 보존하는 시간 의존 속도장을 도출합니다.
• 스코어 모델을 학습하지 않고 denoising 사후 확률의 몬테카를로 샘플링을 사용하여 실행 시점에 속도장을 추정합니다.
• 매니폴드에서 Euler 스킴으로 확률 흐름 ODE를 이산화하고 X0에 대한 실용적 초기화 스킴을 구현합니다.
• 효율적인 FRIPS 배치를 위한 Rd와 Sd의 특수 케이스에 대한 명시적 표현을 제공합니다.

실험 결과

연구 질문

• RQ1 일반적인 Riemannian 매니폴드에서 비정규화된, 다모달 가능성이 있는 밀도에서 샘플링하는 방법은 무엇인가?
• RQ2 훈련 데이터나 학습된 점수로 확산/모델 기반 샘플링 아이디어를 매니폴드에 적용할 수 있는가?
• RQ3 Riemannian 확률적 보간자와 그 마코프 투영을 따라 마진이 보존되는지에 대한 이론적 조건은 무엇인가?
• RQ4 Rd와 Sd와 같은 매니폴드에서 훈련 없는 흐름 기반 샘퍼(FRIPS)를 실제로 구현하는 방법은 무엇인가?
• RQ5 FRIPS가 제안된 실험에서 다모달, 고차원, 무거운 꼬리 타깃에서 기존의 Riemannian 샘플러에 비해 어떤 성능을 보이는가?

주요 결과

• FRIPS는 비평형 결정적 역학을 통해 Riemannian 매니폴드에 노이즈 분포를 대상 분포로 운반하는 훈련 없는 프레임워크를 제공합니다.
• 측지 기반 보간과 마코프 투영으로 시간 보 marginals를 보존하는 Riemannian 확률적 보간자 경로가 구성됩니다.
• 흐름을 추진하는 속도장은 denoising 사후에 대한 조건부 기대값으로 표현되며 몬테카를로 방법으로 추정됩니다.
• 초기 분포 πt0에서 출발하는 실용적 샘플링을 위한 이산화된 Euler 유사 스킴이 매니폴드에서 도출됩니다.
• Rd와 Sd에 대한 명시적 표현이 제공되어 이 공간들에서 FRIPS의 효율적 구현이 가능하게 됩니다.
• 제안된 실험에서 다모달, 고차원 및 무거운 꼬리 타깃을 다룰 수 있음을 시연합니다.