[论文解读] SEEDS: Exponential SDE Solvers for Fast High-Quality Sampling from Diffusion Models

Martin Gonzalez, Nelson Fernández+4 more|arXiv (Cornell University)|May 23, 2023

Generative Adversarial Networks and Image Synthesis参考文献 39被引用 5

一句话总结

SEEDS 提出了一类用于扩散模型的新颖随机指数积分求解器，能解析计算 SDE 解的线性和随机分量，无需训练或参数调优，采样速度比以往 SDE 方法快至 5 倍，同时实现最先进水平的采样质量。该方法提供强收敛保证，并显著减少函数评估次数，实现高保真图像生成。

ABSTRACT

A potent class of generative models known as Diffusion Probabilistic Models (DPMs) has become prominent. A forward diffusion process adds gradually noise to data, while a model learns to gradually denoise. Sampling from pre-trained DPMs is obtained by solving differential equations (DE) defined by the learnt model, a process which has shown to be prohibitively slow. Numerous efforts on speeding-up this process have consisted on crafting powerful ODE solvers. Despite being quick, such solvers do not usually reach the optimal quality achieved by available slow SDE solvers. Our goal is to propose SDE solvers that reach optimal quality without requiring several hundreds or thousands of NFEs to achieve that goal. We propose Stochastic Explicit Exponential Derivative-free Solvers (SEEDS), improving and generalizing Exponential Integrator approaches to the stochastic case on several frameworks. After carefully analyzing the formulation of exact solutions of diffusion SDEs, we craft SEEDS to analytically compute the linear part of such solutions. Inspired by the Exponential Time-Differencing method, SEEDS use a novel treatment of the stochastic components of solutions, enabling the analytical computation of their variance, and contains high-order terms allowing to reach optimal quality sampling $\sim3$-$5 imes$ faster than previous SDE methods. We validate our approach on several image generation benchmarks, showing that SEEDS outperform or are competitive with previous SDE solvers. Contrary to the latter, SEEDS are derivative and training free, and we fully prove strong convergence guarantees for them.

研究动机与目标

• 开发能在不依赖数百或数千次函数评估（NFE）的情况下实现最优采样质量的 SDE 求解器，而这是现有 SDE 求解器的典型特征。
• 克服训练-free ODE 求解器中常见的速度与质量之间的权衡，后者虽快速但通常无法达到 SDE 的质量水平。
• 设计一种无需导数、无需训练的 SDE 求解器，使其在多种扩散模型架构和数据集上均保持高性能。
• 为扩散模型中的 SDE 求解器提供严格的理论收敛保证——特别是强收敛与弱收敛，弥补先前工作中存在的空白。
• 通过解析处理 SDE 解的线性和随机分量，将指数积分方法推广至随机设置。

提出的方法

• SEEDS 使用半线性 SDE 解的指数表示，以分离并解析计算解的线性部分，从而提升稳定性和精度。
• 引入一种新颖的变量变换，以简化解构式中的积分，从而更优地逼近确定性分量。
• 通过 $φ$-函数解析计算随机分量的方差，实现无需数值近似的高效且精确的积分。
• 提出一种噪声分解策略，使高阶数值近似可形成马尔可夫链，从而提升解的质量与收敛性。
• 求解器基于截断的 Itô-Taylor 展开构建，利用完整的随机 Taylor 级数以保证理论严谨性，不同于以往工作中采用的渐进式方法。
• SEEDS 实现为即插即用的采样器，无需额外训练或超参数调优，且兼容多种扩散模型框架，包括 EDM 和 VP。

实验结果

研究问题

• RQ1 指数积分方法能否推广至随机设置，从而在扩散模型中实现高质量采样？
• RQ2 能否通过解析计算 SDE 解的线性和随机分量，实现更少函数评估次数下的更快收敛，同时保持或提升样本质量？
• RQ3 一种无需导数、无需训练的 SDE 求解器能否实现最先进水平的 FID 分数，并具备强理论收敛保证？
• RQ4 所提出的噪声分解方法与确定性等价方法相比，在准确性和稳定性方面表现如何？
• RQ5 该方法在不同扩散模型架构（如 EDM 预处理和 VP 扩散模型）中是否仍保持鲁棒性和有效性？

主要发现

• 在 CIFAR-10 VP 无条件生成任务中，SEEDS-3 的 FID 达到 1.88，比第二好的方法快约 5 倍（90 NFE 对比 DPM-Solver 的 36 NFE），且 FID 更低。
• 在 ImageNet-64 类条件生成任务中，SEEDS-3 在 270 NFE 下达到 FID 1.38，性能与优化后的 EDM 采样器相当（1.36 FID，511 NFE），但速度接近其两倍。
• 在所有基准测试中，包括 CelebA-64 和 CIFAR-10，SEEDS-3 比以往 SDE 求解器快 2–5 倍，同时保持或提升了样本质量。
• 该方法展现出强收敛保证，且提供了完整的理论证明——与 DPM 文献中以往的 SDE 求解器不同，后者通常缺乏此类严谨分析。
• SEEDS 对随机性（如 $S_{\text{churn}}$）表现出一定敏感性，但在更低的 NFE 下性能与 EDM 相当，表明存在进一步优化潜力。
• 噪声分解方法被证明为最优，且无确定性等价形式，相较于现有求解器具有关键的理论与实际优势。