[論文レビュー] Interpreting and Improving Diffusion Models from an Optimization Perspective

Frank Permenter, Chenyang Yuan|arXiv (Cornell University)|Jun 8, 2023

Advanced Neuroimaging Techniques and Applications被引用数 4

ひとこと要約

この論文は、ノイズ除去拡散モデルをデータ多様体への二乗ユークリッド距離関数への近似的な勾配降下法として解釈し、決定論的な最適化に基づく分析を可能にする。新しいサンプリング手法を提案し、ノイズ除去器の出力を集約することで、CIFAR-10およびCelebAでSOTAのFIDスコアを達成した。関数評価は5〜10回で十分である。

ABSTRACT

Denoising is intuitively related to projection. Indeed, under the manifold hypothesis, adding random noise is approximately equivalent to orthogonal perturbation. Hence, learning to denoise is approximately learning to project. In this paper, we use this observation to interpret denoising diffusion models as approximate gradient descent applied to the Euclidean distance function. We then provide straight-forward convergence analysis of the DDIM sampler under simple assumptions on the projection error of the denoiser. Finally, we propose a new gradient-estimation sampler, generalizing DDIM using insights from our theoretical results. In as few as 5-10 function evaluations, our sampler achieves state-of-the-art FID scores on pretrained CIFAR-10 and CelebA models and can generate high quality samples on latent diffusion models.

研究の動機と目的

• ノイズ除去をデータ多様体への近似的な射影として定式化することで、拡散モデルに対する決定論的で最適化ベースの解釈を提供すること。
• ノイズ除去器の射影精度に関する相対誤差モデルを仮定したもとで、DDIMサンプラーの収束を分析すること。
• 勾配推定誤差の制御とノイズ除去器出力の集約を活用することで、サンプル品質を向上させる新しいサンプリングアルゴリズムの開発。
• 距離関数最適化の枠組みにおいて、スコア蒸留サンプリングや条件付き生成といった既存手法を統合すること。
• 原理的な距離最小化の視点から、制約付き最適化タスクにおける事前学習済みノイズ除去器の即時利用を可能にすること。

提案手法

• ノイズ除去器の出力を、データ多様体への二乗ユークリッド距離関数の勾配推定値と解釈する。すなわち、∇f(x) ≈ σεθ(x,σ)。
• 相対誤差モデルを導入する：||∇f(x) − σεθ(x,σ)|| ≤ η||∇f(x)||。これは勾配推定誤差の上限を定める。
• 相対誤差仮定のもとで、DDIMサンプリングがf(x) = ½ distK²(x) に対する近似的な勾配降下と等価であることを示す。
• 誤差パラメータ（η,ν）が有界である場合に、distK(xt) が単調に減少するためのノイズスケジュール σt の条件を導出する。
• 勾配推定誤差を低減し、収束を改善するために複数のノイズ除去器出力を集約する新しいサンプラー（アルゴリズム2）を提案する。
• 本フレームワークを応用し、スコア蒸留サンプリングや条件付き生成といった手法を、距離関数への制約付き最適化として再解釈・一般化する。

実験結果

リサーチクエスチョン

• RQ1 拡散モデルにおけるノイズ除去は、厳密にデータ多様体への近似的な射影と解釈できるか？
• RQ2 ノイズ除去器出力の相対誤差は、拡散サンプラーの収束にどのように影響するか？
• RQ3 拡散サンプリングプロセスは、データ多様体への二乗距離関数への勾配降下と再解釈できるか？
• RQ4 勾配推定誤差が有界である条件下で、サンプリングプロセスの収束を保証するノイズスケジュールは何か？
• RQ5 ノイズ除去器出力の集約によって推定誤差を低減し、改善されたサンプラーを設計できるか？

主な発見

• 多様体仮説のもとで、ノイズレベルσが多様体への距離に比例する場合、ノイズ除去プロセスは多様体への射影を近似的に実現する。
• 相対誤差が有界である限り、DDIMサンプリングは二乗ユークリッド距離関数への近似的な勾配降下と等価であり、収束が保証される。
• 提案されたサンプラーは、事前学習済みのCIFAR-10およびCelebAモデルを用いて、わずか5〜10回の関数評価でSOTAのFIDスコアを達成した。
• 高解像度の潜在拡散モデル（例：Stable Diffusion）に対しても、既存手法を上回る性能を示し、最小限の推論コストで競争力のあるFIDスコアを達成した。
• 本フレームワークにより、スコア蒸留サンプリングが距離関数とパラメトリックなジェネレータを含む合成目的関数への勾配降下と解釈できるようになった。
• 解析により、ノイズ除去器の学習は、||∇d(x)|| = 1 を満たす解を学習することと同等であることが判明し、拡散モデルとレベルセット・距離関数学習を結びつける。