[论文解读] Denoising Likelihood Score Matching for Conditional Score-based Data Generation

Chen-Hao Chao, Weifang Sun+7 more|arXiv (Cornell University)|Mar 27, 2022

Machine Learning and Data Classification被引用 6

一句话总结

本文提出去噪似然得分匹配（Denoising Likelihood Score Matching, DLSM），一种用于条件得分生成模型中分类器的新颖训练目标，通过将估计得分与真实对数似然密度梯度对齐，缓解了得分不匹配问题。在CIFAR-10和CIFAR-100上的实验表明，DLSM显著提升了采样质量，在FID和IS得分上达到当前最优水平，通过减少得分估计误差，增强了生成样本的保真度与多样性。

ABSTRACT

Many existing conditional score-based data generation methods utilize Bayes' theorem to decompose the gradients of a log posterior density into a mixture of scores. These methods facilitate the training procedure of conditional score models, as a mixture of scores can be separately estimated using a score model and a classifier. However, our analysis indicates that the training objectives for the classifier in these methods may lead to a serious score mismatch issue, which corresponds to the situation that the estimated scores deviate from the true ones. Such an issue causes the samples to be misled by the deviated scores during the diffusion process, resulting in a degraded sampling quality. To resolve it, we formulate a novel training objective, called Denoising Likelihood Score Matching (DLSM) loss, for the classifier to match the gradients of the true log likelihood density. Our experimental evidence shows that the proposed method outperforms the previous methods on both Cifar-10 and Cifar-100 benchmarks noticeably in terms of several key evaluation metrics. We thus conclude that, by adopting DLSM, the conditional scores can be accurately modeled, and the effect of the score mismatch issue is alleviated.

研究动机与目标

• 识别并解决现有条件得分生成模型中的得分不匹配问题，即分类器生成的得分与真实后验梯度存在偏差。
• 通过在反向过程中确保准确的得分估计，提升扩散模型在条件生成中的采样质量。
• 开发一种更贴近真实对数似然梯度的训练目标，以增强生成样本的保真度与多样性。
• 在多个基准数据集和评估指标（包括FID、IS以及P/R/D/C指标）上验证所提方法的有效性。

提出的方法

• 提出一种新型损失函数——去噪似然得分匹配（DLSM），训练分类器以匹配真实对数似然密度的梯度，而非依赖交叉熵损失。
• 将DLSM集成到现有框架中，该框架通过贝叶斯定理将条件得分分解为数据得分与分类器得分的混合形式。
• 通过加权求和的方式将DLSM与标准交叉熵损失结合，形成总损失 $ L_{\text{Total}} $，以稳定训练并提升泛化能力。
• 采用去噪得分匹配（DSM）原理，高效估计数据得分函数，降低训练过程中的计算成本。
• 使用Langevin扩散进行采样，其过程由DLSM训练分类器所生成的优化后验得分估计引导。
• 应用缩放技术进一步提升性能，证明了在不同超参数设置下的鲁棒性。

实验结果

研究问题

• RQ1 现有条件得分生成模型中的得分不匹配问题是否降低采样质量？若是，其根本原因是什么？
• RQ2 一种匹配真实对数似然梯度的新分类器训练目标，能否提升得分估计精度与采样质量？
• RQ3 在CIFAR-10与CIFAR-100上，所提出的DLSM损失相较于交叉熵及其他基线方法，在FID、IS以及P/R/D/C指标上的表现如何？
• RQ4 DLSM损失对超参数选择是否具有鲁棒性，特别是总损失中的平衡系数λ？
• RQ5 将DLSM与缩放技术结合后，是否能在多个评估指标上进一步提升性能？

主要发现

• 所提出的DLSM方法在CIFAR-10上实现FID为2.25，在CIFAR-100上为2.33，显著优于基线方法（FID分别为4.10和6.16）以及此前的最先进方法。
• 在CIFAR-10上，DLSM取得9.90的Inception Score（IS），超过基线方法（9.08）与缩放方法（9.50），表明样本质量与多样性均得到提升。
• 该方法降低了得分误差，当使用 $ L_{\text{Total}} $ 损失时，预期得分差异 $ \mathbb{E}_{U(\tilde{\bm{x}})}[D_P(\tilde{\bm{x}}, \tilde{\bm{y}})] $ 与 $ \mathbb{E}_{U(\tilde{\bm{x}})}[D_L(\tilde{\bm{x}}, \tilde{\bm{y}})] $ 达到最低。
• DLSM损失对超参数选择具有鲁棒性，不同λ值下性能保持稳定，FID与IS波动极小。
• 当与缩放技术结合时，DLSM进一步提升了精度与密度指标，在CIFAR-10上分别达到0.65的精度与0.96的密度，优于基线与缩放基线方法。
• 定性结果表明，DLSM生成的样本更清晰、更逼真，且在细粒度类别（如CIFAR-100中的“婴儿”、“苹果”、“熊”）中显著减少了伪影。