[論文レビュー] Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative Models

Gen Li, Yuting Wei+2 more|arXiv (Cornell University)|Jun 15, 2023

Markov Chains and Monte Carlo Methods被引用数 5

ひとこと要約

本稿は、$\ell_2$-精度のスコア推定のもとで、拡散型生成モデルの非漸近的収束理論を構築し、決定的サンプリングでは$1/T$の収束速度を確立（先行研究を改善）、確率的サンプリングでは$1/\sqrt{T}$の収束速度を達成（最先端と一致）。さらに、SDE/ODEツールキットに依存しない新規な非漸近的フレームワークを用いて、それぞれ$1/T^2$および$1/T$の収束速度を達成する加速版を提案。

ABSTRACT

Diffusion models, which convert noise into new data instances by learning to reverse a Markov diffusion process, have become a cornerstone in contemporary generative modeling. While their practical power has now been widely recognized, the theoretical underpinnings remain far from mature. In this work, we develop a suite of non-asymptotic theory towards understanding the data generation process of diffusion models in discrete time, assuming access to $\ell_2$-accurate estimates of the (Stein) score functions. For a popular deterministic sampler (based on the probability flow ODE), we establish a convergence rate proportional to $1/T$ (with $T$ the total number of steps), improving upon past results; for another mainstream stochastic sampler (i.e., a type of the denoising diffusion probabilistic model), we derive a convergence rate proportional to $1/\sqrt{T}$, matching the state-of-the-art theory. Imposing only minimal assumptions on the target data distribution (e.g., no smoothness assumption is imposed), our results characterize how $\ell_2$ score estimation errors affect the quality of the data generation processes. In contrast to prior works, our theory is developed based on an elementary yet versatile non-asymptotic approach without resorting to toolboxes for SDEs and ODEs. Further, we design two accelerated variants, improving the convergence to $1/T^2$ for the ODE-based sampler and $1/T$ for the DDPM-type sampler, which might be of independent theoretical and empirical interest.

研究の動機と目的

• SDE/ODEツールキットに依存しない、拡散型生成モデルの非漸近的理論的枠組みを構築すること。
• ターゲット分布に対する最小限の仮定のもとで、$\ell_2$-精度のスコア推定誤差がデータ生成品質に与える影響を同定すること。
• 離散時間における主流の決定的および確率的サンプラーのよりタイトな収束速度を確立すること。
• ODEベースおよびDDPM型の両方のサンプラーに対して、より速い収束速度（$1/T^2$および$1/T$）を達成する加速版を設計すること。

提案手法

• SDE/ODEの複雑な道具を避けるために、基本的な不等式と行列集中の手法に基づく非漸近的解析フレームワークを提案。
• 確率フローODEサンプラーを分析し、スコア推定誤差を用いて推定逆過程と真の逆過程の乖離を評価。
• 再帰的誤差伝播と逆過程ダイナミクスにおけるヤコビ行列の制御を通じて収束速度を導出。
• ステップサイズと更新ルールを変更することで加速サンプラーを導入し、特化した学習率スケジュールにより高速収束を実現。
• 行列ノルムのバウンドとモーメントの仮定を用いて、特にDDPM型サンプラーにおける逆過程の共分散構造を制御。
• 逆過程誤差の再帰的分解を導入し、スコア推定誤差とデータ分布の幾何構造とを関連づける。

実験結果

リサーチクエスチョン

• RQ1 スコア関数が$\ell_2$精度で推定される場合、拡散モデルにおける決定的サンプラーの非漸近的収束速度は何か？
• RQ2 最小限の分布的仮定のもとで、$\ell_2$スコア推定誤差は拡散モデルにおける生成サンプルの品質にどのように影響するか？
• RQ3 非漸近的フレームワークを用いて、DDPM型確率的サンプラーの収束速度を一致または向上させることは可能か？
• RQ4 $1/T$ や $1/\sqrt{T}$ よりも速い収束を達成するための加速サンプリングスキームは、どのように設計できるか？
• RQ5 SDE/ODEツールキットや強い滑らかさの仮定に依存しない、拡散モデルの理論を構築することは可能か？

主な発見

• 確率フローODEに基づく決定的サンプラーは、非漸近的収束速度$\mathcal{O}(1/T)$を達成し、先行研究を改善した。
• DDPM型確率的サンプラーは、収束速度$\mathcal{O}(1/\sqrt{T})$を達成し、最先端の理論的バウンドと一致した。
• 提案された加速決定的サンプラーは、収束速度$\mathcal{O}(1/T^2)$を達成し、標準の$1/T$と比べて顕著に向上した。
• 加速DDPM型サンプラーは、収束速度$\mathcal{O}(1/T)$を達成し、標準の$1/\sqrt{T}$より向上した。
• 理論は最小限の仮定のもとで成立：ターゲットデータ分布に滑らかさやモーメント条件を課さない。
• 解析により、$\ell_2$スコア推定誤差が最終的な生成品質に与える影響を厳密に定量し、誤差伝播において$\mathcal{O}(\|\widehat{\nabla \log p_t} - \nabla \log p_t\|_2^2)$のスケーリングに従うことが示された。