[论文解读] A Survey on Generative Diffusion Model

Hanqun Cao, Cheng Tan+5 more|arXiv (Cornell University)|Sep 6, 2022

Creativity in Education and Neuroscience被引用 66

一句话总结

这个综述全面分析扩散模型的基础、算法改进和应用，总结前向/反向公式、DDPM/分数SDE 框架，以及条件生成，同时介绍采样、前向过程设计、似然优化和分布桥接的进展。

ABSTRACT

Deep generative models have unlocked another profound realm of human creativity. By capturing and generalizing patterns within data, we have entered the epoch of all-encompassing Artificial Intelligence for General Creativity (AIGC). Notably, diffusion models, recognized as one of the paramount generative models, materialize human ideation into tangible instances across diverse domains, encompassing imagery, text, speech, biology, and healthcare. To provide advanced and comprehensive insights into diffusion, this survey comprehensively elucidates its developmental trajectory and future directions from three distinct angles: the fundamental formulation of diffusion, algorithmic enhancements, and the manifold applications of diffusion. Each layer is meticulously explored to offer a profound comprehension of its evolution. Structured and summarized approaches are presented in https://github.com/chq1155/A-Survey-on-Generative-Diffusion-Model.

研究动机与目标

• 解释基本的扩散模型公式及其理论基础。
• 总结提高扩散模型性能的关键算法改进和实用技巧。
• 调查扩散模型在包括视觉、语言、医疗保健和科学在内的多个领域的多样化应用。
• 提供扩散模型进展的分类，以及未来方向。

提出的方法

• 解释前向和反向扩散过程及转移核。
• 描述 DDPM 和基于分数的 SDE 形式及其训练目标。
• 讨论条件扩散概率模型和引导技巧。
• 给出改进分类：采样加速、扩散设计、似然优化和分布桥接。
• 概述潜在空间扩散以及非欧几何/不同数据空间的扩展。

实验结果

研究问题

• RQ1 扩散模型的核心理论公式及其与 DDPM 和 SDE 框架的联系是什么？
• RQ2 提出哪些算法策略以加速采样并改进训练和似然目标？
• RQ3 如何将扩散模型扩展到条件生成和非传统数据域（潜在空间、离散空间、流形、图）？
• RQ4 扩散模型已在何种主要应用和领域中取得成功，并识别出哪些未来方向？

主要发现

• 与 VAE、EBM、NF 相比，扩散模型提供稳定的训练和高质量的生成，但由于迭代去噪（从前向到数据的先验）需要更慢的采样。
• DDPM 与基于分数的 SDE 公式提供互补的离散和连续框架，具有去噪分数匹配目标。
• 多种算法改进被归类为：采样加速、扩散过程设计、似然优化和分布桥接。
• 条件扩散模型通过如无分类器引导的引导技术，实现对标签或文本的条件生成。
• 潜在空间与非欧几何扩展将扩 diffuser 用途扩展到图像、语言、图、分子和流形。
• 本综述概述未来方向及与其他扩散综述的联系，强调局限性和潜在研究途径。