[论文解读] Conditional Simulation Using Diffusion Schrödinger Bridges

Yuyang Shi, Valentin De Bortoli+2 more|arXiv (Cornell University)|Feb 27, 2022

Model Reduction and Neural Networks被引用 4

一句话总结

本文提出条件扩散薛定谔桥（CDSB），一种新颖的框架，将薛定谔桥理论扩展至条件生成建模，实现了在反问题中更快、更高效的采样。通过将条件得分生成模型重新表述为薛定谔桥问题，CDSB 在图像超分辨率、贝叶斯滤波以及微调预训练模型方面实现了最先进性能，且推理时间显著短于标准去噪扩散模型。

ABSTRACT

Denoising diffusion models have recently emerged as a powerful class of generative models. They provide state-of-the-art results, not only for unconditional simulation, but also when used to solve conditional simulation problems arising in a wide range of inverse problems. A limitation of these models is that they are computationally intensive at generation time as they require simulating a diffusion process over a long time horizon. When performing unconditional simulation, a Schrödinger bridge formulation of generative modeling leads to a theoretically grounded algorithm shortening generation time which is complementary to other proposed acceleration techniques. We extend the Schrödinger bridge framework to conditional simulation. We demonstrate this novel methodology on various applications including image super-resolution, optimal filtering for state-space models and the refinement of pre-trained networks. Our code can be found at https://github.com/vdeborto/cdsb.

研究动机与目标

• 为解决基于得分的生成模型（SGMs）在条件模拟中，特别是在需要长时间反向扩散过程的反问题中的计算低效问题。
• 将先前仅用于无条件生成的薛定谔桥框架扩展至条件设置，实现更快、更高效的采样。
• 提出一种系统性、迭代的算法（CDSB），通过神经网络估计的得分函数近似条件薛定谔桥解。
• 在多种应用中验证该方法的有效性，包括图像超分辨率、状态空间模型中的最优滤波，以及预训练网络的微调。
• 为标准基于得分的条件模型提供一种理论和实践上均更优的替代方案，可在不牺牲样本质量的前提下显著缩短生成时间。

提出的方法

• 提出条件薛定谔桥（CSB）公式，定义一个有限时间的随机过程，其中在 t=0 时为数据分布，在 t=T 时为参考分布，且条件于观测数据 Y=y^obs。
• 将 De Bortoli 等人（2021）提出的扩散 SB 算法适配至条件设置，通过迭代优化近似条件桥接过程。
• 使用神经网络估计条件扰动分布的得分函数，实现端到端训练与推理。
• 将该方法集成至条件得分生成模型（CSGMs）中，通过使用学习到的得分函数进行时间反演动力学，实现从后验 p(x|y^obs) 采样。
• 采用基于参考测度方差的维度缩放方法，对扩散时间步长进行调整，以提升稳定性和收敛性。
• 在滤波任务中，使用 EnKF 估计后验均值和方差，用于初始化参考分布，从而提升在混沌系统中的鲁棒性。

实验结果

研究问题

• RQ1 薛定谔桥框架能否成功扩展至条件生成建模，以加速反问题中的采样？
• RQ2 所提出的 CDSB 方法在生成速度和准确性方面，与标准条件得分生成模型（CSGMs）相比表现如何？
• RQ3 CDSB 能否在图像超分辨率和混沌状态空间模型的贝叶斯滤波中实现最先进性能？
• RQ4 扩散过程长度（N=20 与 N=100）以及集合大小（M）对滤波任务中 CDSB 的稳定性和准确性有何影响？
• RQ5 使用数据自适应的参考分布（p_ref）是否能提升非高斯或高方差系统中的性能？

主要发现

• 在滤波均值估计方面，CDSB 的 RMSE 低于 CSGM 和 EnKF，在 M=2000 且 N=100 时达到最低误差 0.331±0.006，优于 CSGM-C 和 EnKF。
• 在滤波标准差估计方面，CDSB-C 在 M=2000 且 N=100 时达到最低 RMSE 0.106±0.002，显著优于 CSGM-C 和 EnKF。
• 当 N=100 且 M≥500 时，CDSB 和 CDSB-C 表现稳定且无发散；而 M=200 且扩散步长较长时，CDSB 因迭代回归中误差累积导致偶发大误差。
• 在图像超分辨率任务中，CDSB 达到了最先进 FID 分数，证明其在高维条件生成任务中的有效性。
• 针对洛伦兹-63 等混沌系统，使用针对先验预测分布定制的数据自适应参考分布（p_ref）可显著提升性能，而固定 p_ref 则会失效。
• CDSB 通过避免长时间的反向扩散过程，实现了比标准 SGM 更快的推理速度，为现有技术（如知识蒸馏或优化求解器）提供了互补的加速方法。