[论文解读] Stable Target Field for Reduced Variance Score Estimation in Diffusion Models

Yilun Xu, Shangyuan Tong+1 more|arXiv (Cornell University)|Feb 1, 2023

Advanced Neuroimaging Techniques and Applications被引用 5

一句话总结

本文提出稳定目标场（STF）目标，通过使用参考批次利用自归一化重要性采样计算加权条件得分，以减少扩散模型中得分估计的方差。该方法显著降低了训练目标的方差——尤其在中间噪声区间——结合EDM在CIFAR-10上实现了更优的FID（1.90）和3.6倍的训练加速。

ABSTRACT

Diffusion models generate samples by reversing a fixed forward diffusion process. Despite already providing impressive empirical results, these diffusion models algorithms can be further improved by reducing the variance of the training targets in their denoising score-matching objective. We argue that the source of such variance lies in the handling of intermediate noise-variance scales, where multiple modes in the data affect the direction of reverse paths. We propose to remedy the problem by incorporating a reference batch which we use to calculate weighted conditional scores as more stable training targets. We show that the procedure indeed helps in the challenging intermediate regime by reducing (the trace of) the covariance of training targets. The new stable targets can be seen as trading bias for reduced variance, where the bias vanishes with increasing reference batch size. Empirically, we show that the new objective improves the image quality, stability, and training speed of various popular diffusion models across datasets with both general ODE and SDE solvers. When used in combination with EDM, our method yields a current SOTA FID of 1.90 with 35 network evaluations on the unconditional CIFAR-10 generation task. The code is available at https://github.com/Newbeeer/stf

研究动机与目标

• 解决去噪得分匹配（DSM）在扩散模型中训练目标方差过高的问题，特别是在中间噪声区间。
• 识别出当多个数据模态影响同一噪声样本时，数据来源归属不明确是导致方差的原因。
• 提出一种广义得分匹配目标，利用参考批次和重要性采样稳定训练目标。
• 证明该方法在参考批次大小增加时，可降低训练目标协方差的迹，同时保持渐近无偏性。
• 在多种扩散模型架构和数据集上提升训练效率、模型稳定性和生成性能。

提出的方法

• 将前向扩散过程分解为三个阶段：近场（低噪声）、中场（高方差）和远场（低信号）。
• 将稳定目标场（STF）目标定义为一种广义DSM目标，通过大参考批次计算加权条件得分。
• 应用自归一化重要性采样聚合参考样本的贡献，从而在无需精确归一化的情况下降低目标方差。
• 使用数据点的参考批次估计条件得分场，其中每个参考点按其在扰动分布下的似然度按比例贡献。
• STF目标在参考批次大小增加时渐近无偏，且将训练目标协方差的迹降低一个与参考批次大小相关的因子。
• 该方法兼容ODE和SDE求解器，可无缝集成至现有扩散模型（如EDM、VE和VP SDEs）中。

Figure 5: FID scores in the training course with varying reference batch size.

实验结果

研究问题

• RQ1 去噪得分匹配在扩散模型中训练目标方差过高的原因是什么？
• RQ2 在前向扩散过程的哪个阶段目标方差最为显著？
• RQ3 能否利用数据点的参考批次通过重要性采样稳定得分估计？
• RQ4 随着参考批次大小增加，STF目标的偏差-方差权衡如何变化？
• RQ5 STF在不同扩散模型架构上对训练速度、FID和模型稳定性有多大的提升？

主要发现

• STF目标在中间噪声区间显著降低了训练目标协方差的迹，该区间方差最高。
• 结合EDM在无条件CIFAR-10生成任务中实现了新的SOTA FID得分1.90，仅需35次网络评估。
• STF在多种扩散模型（包括VE和VP SDEs）中均提升了FID和Inception分数，在CIFAR-10和CelebA 64²上表现一致。
• 该方法增强了训练稳定性，减少了VE模型在不同随机种子下的图像质量退化和噪声生成。
• STF在VE模型上使CIFAR-10训练速度最高提升3.6倍，同时保持或改善FID，是首个实现扩散模型训练加速的方法。
• 随着参考批次大小增加，STF引入的偏差渐近消失，验证了方法的一致性。

Figure 6: FID versus NFE using ODE samplers on CIFAR-10 (left) and CelebA $64\times 64$ (right)