[論文レビュー] SEEDS: Exponential SDE Solvers for Fast High-Quality Sampling from Diffusion Models

Martin Gonzalez, Nelson Fernández+4 more|arXiv (Cornell University)|May 23, 2023

Generative Adversarial Networks and Image Synthesis参考文献 39被引用数 5

ひとこと要約

SEEDSは、SDE解の線形および確率的成分を解析的に計算することで、学習やパrameterチューニングを必要とせず、従来のSDE手法と比較して最大5倍速く、最先端のサンプリング品質を達成する、拡散モデル向けの新しいクラスの確率的指数積分法ソルバを導入する。この手法は強い収束保証を備えており、関数評価回数を大幅に削減することで高精細な画像生成を可能にする。

ABSTRACT

A potent class of generative models known as Diffusion Probabilistic Models (DPMs) has become prominent. A forward diffusion process adds gradually noise to data, while a model learns to gradually denoise. Sampling from pre-trained DPMs is obtained by solving differential equations (DE) defined by the learnt model, a process which has shown to be prohibitively slow. Numerous efforts on speeding-up this process have consisted on crafting powerful ODE solvers. Despite being quick, such solvers do not usually reach the optimal quality achieved by available slow SDE solvers. Our goal is to propose SDE solvers that reach optimal quality without requiring several hundreds or thousands of NFEs to achieve that goal. We propose Stochastic Explicit Exponential Derivative-free Solvers (SEEDS), improving and generalizing Exponential Integrator approaches to the stochastic case on several frameworks. After carefully analyzing the formulation of exact solutions of diffusion SDEs, we craft SEEDS to analytically compute the linear part of such solutions. Inspired by the Exponential Time-Differencing method, SEEDS use a novel treatment of the stochastic components of solutions, enabling the analytical computation of their variance, and contains high-order terms allowing to reach optimal quality sampling $\sim3$-$5 imes$ faster than previous SDE methods. We validate our approach on several image generation benchmarks, showing that SEEDS outperform or are competitive with previous SDE solvers. Contrary to the latter, SEEDS are derivative and training free, and we fully prove strong convergence guarantees for them.

研究の動機と目的

• 従来のSDEソルバが一般的に必要とする数百分から数千回の関数評価（NFE）を必要とせず、最適なサンプリング品質を達成するSDEソルバの開発。
• 学習不要なODEソルバでは見られる、速度と品質のトレードオフを克服し、SDEの品質に迫る。
• 微分なし、学習なしのSDEソルバを設計し、多様な拡散モデルアーキテクチャおよびデータセットで高い性能を維持すること。
• 拡散モデルの文脈において、SDEソルバの理論的収束保証（特に強い収束および弱い収束）を明示的に提供すること。これは、先行研究における空白である。
• SDE解の線形および確率的成分を解析的に取り扱うことで、指数積分法を確率的設定に一般化すること。

提案手法

• 半線形SDE解の指数表現を用いて、解の線形部分を分離し、解析的に計算することで安定性と精度を向上させる。
• 解の式における積分を簡略化するための新規な変数変換を導入し、決定的成分の近似を改善する。
• 確率的成分の分散を$φ$-関数を用いて解析的に計算することで、数値近似を用いずに効率的かつ正確な統合を実現する。
• ノイズ分解戦略を導入し、高次の数値近似がマルコフ連鎖を形成できるようにすることで、解の品質と収束性を向上させる。
• 完全なストラスリッヒャー・テイラー級数を活用した、切断された伊藤＝テイラー展開を用いてソルバを構築する。これは、先行研究の段階的アプローチとは異なり、理論的厳密性を保証する。
• SEEDSは、追加の学習やハイパーパramータチューニングを必要としないオフザシェルサンプラーとして実装されており、EDMおよびVPを含むさまざまな拡散モデルフレームワークと互換性を持つ。

実験結果

リサーチクエスチョン

• RQ1 指数積分法を確率的設定に一般化することで、拡散モデルにおける高品質なサンプリングを達成できるか？
• RQ2 SDE解の線形および確率的成分を解析的に計算することで、関数評価回数を減らしつつ収束を速め、サンプル品質を維持または向上できるか？
• RQ3 微分なし、学習なしのSDEソルバが、強い理論的収束保証のもとで最先端のFIDスコアを達成できるか？
• RQ4 提案されたノイズ分解法は、決定的同等物と比較して、正確性および安定性において優れているか？
• RQ5 この手法は、EDMプレコンディショニングおよびVP拡散モデルを含む、さまざまな拡散モデルアーキテクチャにおいても、頑健かつ効果的であるか？

主な発見

• SEEDS-3は、CIFAR-10 VP無条件生成でFID 1.88を達成し、DPM-Solver（90 NFE vs. 36 NFE）と比較して約5倍速く、FIDも低く抑えられている。
• ImageNet-64のクラス条件付き生成では、SEEDS-3は270 NFEでFID 1.38を達成し、最適化されたEDMサンプラー（511 NFEでFID 1.36）と同等の性能を示したが、ほぼ2倍の速度で達成された。
• すべてのベンチマーク（CelebA-64およびCIFAR-10を含む）において、SEEDS-3は従来のSDEソルバーより2–5倍速く、サンプル品質を維持または向上させている。
• この手法は強い収束保証を示しており、完全な理論的証明が提供されている。これは、DPM文献における先行SDEソルバがしばしばこのような厳密な解析を欠いているのとは対照的である。
• SEEDSは確率的要因（例：$S_{\text{churn}}$）に感受性を示すが、低いNFEでEDMと同等の性能を達成しており、さらなる最適化の余地があることを示唆している。
• ノイズ分解法は最適であり、決定的同等物が存在しないため、既存のソルバーよりも重要な理論的・実用的優位性を有している。