[논문 리뷰] Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative Models

Gen Li, Yuting Wei외 2명|arXiv (Cornell University)|2023. 06. 15.

Markov Chains and Monte Carlo Methods인용 수 5

한 줄 요약

이 논문은 $\ell_2$-정확한 스코어 추정 하에 확산 기반 생성 모델에 대한 점근적이지 않은 수렴 이론을 개발하며, 결정적 샘플러의 경우 $1/T$ 수렴 속도를 확립하고 이는 이전 결과를 향상시킨다. 확률적 샘플러의 경우 $1/\sqrt{T}$ 수렴 속도를 확보하며, 이는 현재 최고 수준의 이론적 결과와 일치한다. 또한, 기존의 SDE/ODE 도구상자를 사용하지 않는 새로운 점근적이지 않은 프레임워크를 통해 $1/T^2$ 및 $1/T$ 수렴 속도를 달성하는 가속화된 변형을 제안한다.

ABSTRACT

Diffusion models, which convert noise into new data instances by learning to reverse a Markov diffusion process, have become a cornerstone in contemporary generative modeling. While their practical power has now been widely recognized, the theoretical underpinnings remain far from mature. In this work, we develop a suite of non-asymptotic theory towards understanding the data generation process of diffusion models in discrete time, assuming access to $\ell_2$-accurate estimates of the (Stein) score functions. For a popular deterministic sampler (based on the probability flow ODE), we establish a convergence rate proportional to $1/T$ (with $T$ the total number of steps), improving upon past results; for another mainstream stochastic sampler (i.e., a type of the denoising diffusion probabilistic model), we derive a convergence rate proportional to $1/\sqrt{T}$, matching the state-of-the-art theory. Imposing only minimal assumptions on the target data distribution (e.g., no smoothness assumption is imposed), our results characterize how $\ell_2$ score estimation errors affect the quality of the data generation processes. In contrast to prior works, our theory is developed based on an elementary yet versatile non-asymptotic approach without resorting to toolboxes for SDEs and ODEs. Further, we design two accelerated variants, improving the convergence to $1/T^2$ for the ODE-based sampler and $1/T$ for the DDPM-type sampler, which might be of independent theoretical and empirical interest.

연구 동기 및 목표

• SDE/ODE 도구상자에 의존하지 않는 확산 기반 생성 모델을 위한 점근적이지 않은 이론적 프레임워크를 개발하는 것.
• 대상 분포에 대한 최소한의 가정 하에 $\ell_2$-정확한 스코어 추정 오차가 데이터 생성 품질에 미치는 영향을 규명하는 것.
• 이산 시간에서 주류의 결정적 및 확률적 샘플러에 대해 더 날카로운 수렴 속도를 확립하는 것.
• ODE 기반 샘플러에 대해 $1/T^2$, DDPM 유형 샘플러에 대해 $1/T$ 수렴 속도를 달성하는 가속화된 변형 샘플러를 설계하는 것.

제안 방법

• 복잡한 SDE/ODE 기반 기계장치를 피하기 위해 기본 부등식과 행렬 농도를 기반으로 한 점근적이지 않은 분석 프레임워크를 제안한다.
• 확률 흐름 ODE 샘플러를 분석하여, 스코어 추정 오차를 이용해 추정된 역과정과 진짜 역과정 간의 이탈을 제한한다.
• 역과정 역학에서 오차의 재귀적 전파와 자코비안 행렬 제어를 통해 수렴 속도를 유도한다.
• 스텝 크기와 업데이트 규칙을 수정하여 가속화된 샘플러를 도입하고, 맞춤형 학습률 스케줄링을 통해 더 빠른 수렴을 달성한다.
• 행렬 노름 경계와 모멘트 가정을 사용하여, 특히 DDPM 유형 샘플러에서 역과정의 공분산 구조를 제어한다.
• 역과정 오차를 재귀적으로 분해하여, 스코어 추정 오차와 데이터 분포의 기하학적 성질과 연결한다.

실험 결과

연구 질문

• RQ1 스코어 함수가 $\ell_2$ 정확도로 추정될 때, 확산 모델에서 결정적 샘플러의 점근적이지 않은 수렴 속도는 무엇인가?
• RQ2 최소한의 분포 가정 하에 $\ell_2$ 스코어 추정 오차는 확산 모델에서 생성된 샘플의 품질에 어떻게 영향을 미치는가?
• RQ3 점근적이지 않은 프레임워크를 사용하여 DDPM 유형의 확률적 샘플러의 수렴 속도를 동일하거나 향상시킬 수 있는가?
• RQ4 표준 $1/T$ 또는 $1/\sqrt{T}$ 수렴 속도를 초월하는 더 빠른 수렴을 달성하기 위해 어떤 가속화된 샘플링 기법을 설계할 수 있는가?
• RQ5 SDE/ODE 도구상자나 강한 미분 가능성 가정 없이도 확산 모델에 대한 이론을 개발할 수 있는가?

주요 결과

• 확률 흐름 ODE 기반의 결정적 샘플러는 $\mathcal{O}(1/T)$ 수준의 점근적이지 않은 수렴 속도를 확보하며, 이는 이전 결과를 향상시킨다.
• DDPM 유형의 확률적 샘플러는 $\mathcal{O}(1/\sqrt{T})$ 수렴 속도를 달성하며, 이는 현재 최고 수준의 이론적 경계와 일치한다.
• 제안된 가속화된 결정적 샘플러는 $\mathcal{O}(1/T^2)$ 수렴 속도를 달성하여 기존의 $1/T$ 수렴 속도보다 크게 향상된다.
• 가속화된 DDPM 유형 샘플러는 $\mathcal{O}(1/T)$ 수렴 속도를 달성하여 표준 $1/\sqrt{T}$ 수렴 속도를 향상시킨다.
• 이론은 최소한의 가정 하에 성립한다: 목표 데이터 분포에 대한 부드러움 또는 모멘트 조건을 도입하지 않는다.
• 분석을 통해 $\ell_2$ 스코어 추정 오차가 최종 생성 품질에 미치는 영향을 엄밀히 정량화하였으며, 오차 전파 과정에서 $\mathcal{O}(\|\widehat{\nabla \log p_t} - \nabla \log p_t\|_2^2)$ 의 형태로 스케일링됨을 보였다.