[论文解读] Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory

Hengyu Fu, Zhuoran Yang+2 more|arXiv (Cornell University)|Mar 18, 2024

Statistical Mechanics and Entropy被引用 5

一句话总结

本论文为条件扩散模型在带有无分类器引导的情况下，开发了一套尖锐的非参数统计理论，包括条件分数近似和自适应速率的分布估计。它还将理论与强化学习、逆问题和奖励条件采样的应用联系起来。

ABSTRACT

Conditional diffusion models serve as the foundation of modern image synthesis and find extensive application in fields like computational biology and reinforcement learning. In these applications, conditional diffusion models incorporate various conditional information, such as prompt input, to guide the sample generation towards desired properties. Despite the empirical success, theory of conditional diffusion models is largely missing. This paper bridges this gap by presenting a sharp statistical theory of distribution estimation using conditional diffusion models. Our analysis yields a sample complexity bound that adapts to the smoothness of the data distribution and matches the minimax lower bound. The key to our theoretical development lies in an approximation result for the conditional score function, which relies on a novel diffused Taylor approximation technique. Moreover, we demonstrate the utility of our statistical theory in elucidating the performance of conditional diffusion models across diverse applications, including model-based transition kernel estimation in reinforcement learning, solving inverse problems, and reward conditioned sample generation.

研究动机与目标

• 在Hölder正则性下，建立使用神经网络对条件分数函数的通用近似理论。
• 推导带有无分类器引导的条件扩散模型的尖锐分布估计（样本复杂度）界限。
• 为基于模型的强化学习、逆问题和奖励条件采样等应用提供理论洞见与保证。

提出的方法

• 提出通过掩码变量统一条件和无条件分数估计的带有无分类器引导的条件扩散模型。
• 开发扩散泰勒近似框架，通过分别近似分数比的分子和分母来近似条件分数。
• 证明属于ReLU类的神经网络能够实现条件分数的L2近似，误差取决于Hölder光滑性β以及输入维数d, dy。
• 利用Girsanov引理在偏差-方差权衡下，推导使用分数近似的条件分布估计的样本复杂度界限。
• 在更强假设下给出两条增强近似结果，得到更快的收敛率（N^{-2β/(d+d_y)}）并细化对σ_t的依赖。

实验结果

研究问题

• RQ1 带有无分类器引导的条件扩散模型如何近似条件分数函数？
• RQ2 使用带有无分类器引导的CDM估计条件分布的统计速率（样本复杂度）是多少，它们如何适应数据的平滑性？
• RQ3 理论能否解释CDM在强化学习、逆问题和奖励条件采样中的表现？
• RQ4 Hölder正则性对神经网络近似条件分数的影响是什么？
• RQ5 改进的近似结果如何影响分布估计的保证？

主要发现

• 建立了使用神经网络对条件分数函数的通用近似理论，误差对初始条件分布的Hölder光滑性β自适应。
• 推导出一种最优的分布估计理论，将条件分数估计与极小极大下界联系起来，并实现与下界相匹配的收敛速率。
• 定理4.1和4.2通过偏差-方差权衡和Girsanov引理，将无分类器引导的分数估计与总体风险联系起来。
• 在额外的Hölder范数假设下，获得改进的近似速率N^{-2β/(d+d_y)}，提升了整体统计保证。
• 将该理论推广到基于模型的强化学习、逆问题和奖励条件样本产生，并给出相应的误差与次优性界限。