[논문 리뷰] A Survey on Generative Diffusion Model

Hanqun Cao, Cheng Tan외 5명|arXiv (Cornell University)|2022. 09. 06.

Creativity in Education and Neuroscience인용 수 66

한 줄 요약

이 설문조사는 확산 모델의 기초, 알고리즘 개선 및 응용 전반을 포괄적으로 분석하고, 순방향/역방향 형식, DDPM/score-SDE 프레임워크, 그리고 조건부 생성에 대해 요약하며, 샘플링, 순전향 프로세스 설계, 가능도 최적화, 분포 간 연결에서의 진보를 포함한다.

ABSTRACT

Deep generative models have unlocked another profound realm of human creativity. By capturing and generalizing patterns within data, we have entered the epoch of all-encompassing Artificial Intelligence for General Creativity (AIGC). Notably, diffusion models, recognized as one of the paramount generative models, materialize human ideation into tangible instances across diverse domains, encompassing imagery, text, speech, biology, and healthcare. To provide advanced and comprehensive insights into diffusion, this survey comprehensively elucidates its developmental trajectory and future directions from three distinct angles: the fundamental formulation of diffusion, algorithmic enhancements, and the manifold applications of diffusion. Each layer is meticulously explored to offer a profound comprehension of its evolution. Structured and summarized approaches are presented in https://github.com/chq1155/A-Survey-on-Generative-Diffusion-Model.

연구 동기 및 목표

• 확산 모델의 기초적 형식과 이론적 기반을 설명한다.
• 확산 모델의 성능을 향상시키는 핵심 알고리즘 개선 및 실용 기법들을 요약한다.
• 비전, 언어, 의료, 과학 등을 포함한 다양한 도메인에서의 확산 모델 응용을 조사한다.
• 확산 모델의 발전에 대한 분류체계와 향후 방향을 제시한다.

제안 방법

• 전방 및 역확산 과정과 전이 커널을 설명한다.
• DDPM과 점수 기반 SDE 형식화 및 이들의 학습 목표를 설명한다.
• 조건부 확산 확률 모델과 가이던스 기법을 논의한다.
• 개선의 분류체계 제시: 샘플링 가속, 확산 설계, 가능도 최적화, 그리고 분포 간 연결.
• 잠재 공간 확산 및 비유클리드/다른 데이터 공간 확장의 개요를 제시한다.

실험 결과

연구 질문

• RQ1 확산 모델의 핵심 이론적 형식과 DDPM 및 SDE 프레임워크와의 연결은 무엇인가?
• RQ2 샘플링 가속 및 학습 및 가능도 목표를 향상시키기 위해 제안된 알고리즘 전략은 무엇인가?
• RQ3 확산 모델이 조건부 생성 및 비전통적 데이터 도메인(잠재 공간, 이산 공간, 매니폴드, 그래프)에 어떻게 확장되었는가?
• RQ4 확산 모델이 성공적으로 적용된 주요 응용 분야와 도메인은 무엇이며, 어떤 향후 방향이 제시되었는가?

주요 결과

• 확산 모델은 VAE, EBM, NF에 비해 안정적인 학습과 고품질 생성을 제공하지만, 데이터에 대한 선행 수준까지의 반복적 디노이징으로 인해 샘플링이 느려진다.
• DDPM과 점수 기반 SDE 형식은 디노이징 스코어 매칭 목표를 가진 보완적인 이산 및 연속 프레임워크를 제공한다.
• 다수의 알고리즘 개선은 샘플링 가속, 확산 프로세스 설계, 가능도 최적화, 분포 간 연결로 분류된다.
• 조건부 확산 모델은 분류기 없는 가이드와 같은 가이던스 기법을 사용하여 레이블이나 텍스트에 조건부로 생성을 가능하게 한다.
• 잠재 공간 및 비유클리드 확장은 확산의 적용 범위를 이미지, 언어, 그래프, 분자, 매니폴드로 확장한다.
• 본 연구조사는 향후 방향과 다른 확산 연구 조사를 연결하는 내용을 개관하며, 한계와 잠재적 연구 방향을 강조한다.