[论文解读] The data-driven Schroedinger bridge

Michele Pavon, Esteban G. Tabak+1 more|arXiv (Cornell University)|Jun 4, 2018

Advanced Differential Geometry Research参考文献 41被引用 13

一句话总结

本文提出了一种数据驱动的薛定谔桥方法，仅通过样本估计两个概率分布之间的最可能中间演化过程，避免了基于网格的计算方法。该方法结合了边际密度的约束最大似然估计与重要性采样，迭代求解薛定谔系统，实现了高维推断的高精度，并改进了积分的重要性采样。

ABSTRACT

Erwin Schroedinger posed, and to a large extent solved in 1931/32 the problem of finding the most likely random evolution between two continuous probability distributions. This article considers this problem in the case when only samples of the two distributions are available. A novel iterative procedure is proposed, inspired by Fortet-Sinkhorn type algorithms. Since only samples of the marginals are available, the new approach features constrained maximum likelihood estimation in place of the nonlinear boundary couplings, and importance sampling to propagate the functions $φ$ and $\hatφ$ solving the Schroedinger system. This method is well-suited to high-dimensional settings, where introducing grids leads to numerically unfeasible or unreliable methods. The methodology is illustrated in two applications: entropic interpolation of two-dimensional Gaussian mixtures, and the estimation of integrals through a variation of importance sampling.

研究动机与目标

• 在仅获得初始和最终分布样本而非其显式密度的情况下求解薛定谔桥问题。
• 开发一种避免基于网格离散化的数值方法，该方法在高维下变得不可行。
• 从经验数据中估计最可能的中间演化过程 ρ(z,t) 和后验转移密度 p*(t1,x,t2,y)。
• 将经典薛定谔桥框架扩展至基于样本的推断，确保在现实世界中数据有限场景下的适用性。
• 通过薛定谔桥学习从标准正态分布到目标分布的传输映射，从而改进重要性采样。

提出的方法

• 用从样本 {xi} 和 {yj} 中进行的约束最大似然估计替代显式的边界条件 ρ0(x) 和 ρ1(y)。
• 使用重要性采样估计薛定谔系统中对偶函数 ϕ 和 ˆϕ 的传播，避免对连续空间进行积分。
• 实现一种受 Fortet-Sinkhorn 启发的迭代算法，通过似然估计在 ρ0 和 ρ1 上交替更新 ϕ(0,x) 和 ˆϕ(1,y)。
• 利用薛定谔系统解导出的传输映射 T，将标准正态分布的样本映射到目标分布。
• 通过将抽样空间变换到更规则的辅助空间（x-空间）来估计积分 ∫f(y)ρ1(y)dy，从而提高估计稳定性。
• 通过从先验转移模型 p(t1,x,t2,y) 中抽样，使用蒙特卡洛估计法估算薛定谔系统中的积分。

实验结果

研究问题

• RQ1 当仅获得初始和最终分布的样本时，如何重新表述经典薛定谔桥问题？
• RQ2 在无基于网格离散化的高维设置下，何种迭代过程可有效估计最可能的中间演化过程 ρ(z,t)？
• RQ3 薛定谔桥框架能否被调整以改进高维、小样本场景下的重要性采样？
• RQ4 与标准蒙特卡洛方法及基于密度估计的重要性采样相比，所提方法在准确性和不确定性方面表现如何？
• RQ5 在稀疏数据条件下，薛定谔桥在多大程度上可用于重构中间演化状态或推断潜在动力学？

主要发现

• 所提方法在估计积分 I 时的相对误差为 0.09710 ± 0.13284，优于普通蒙特卡洛方法（0.10512 ± 0.28865），在准确性和不确定性方面均表现更优。
• 该数据驱动的薛定谔桥方法为高维空间中直接密度估计提供了一种稳健的替代方案，尤其在样本较少时表现更优。
• 通过从标准正态分布到目标分布的传输映射，相比直接估计 ρ1，该方法实现了更稳定、更精确的重要性采样。
• 该方法成功重构了两个高斯混合分布之间的中间演化过程 ρ(z,t)，即使在高维设置下亦成立。
• 基于约束最大似然估计与重要性采样的迭代过程收敛至一个满足样本边际分布和先验动力学的解。
• 该方法适用于海洋洋流估计、演化轨迹重构以及逆向扩散问题等应用，尤其在仅有稀疏或采样数据可用时表现良好。