[논문 리뷰] Matching Normalizing Flows and Probability Paths on Manifolds

Heli Ben-Hamu, Samuel M. Cohen외 6명|arXiv (Cornell University)|2022. 07. 11.

Generative Adversarial Networks and Image Synthesis인용 수 5

한 줄 요약

이 논문은 확률 경로 발산(PPD)을 최소화함으로써 다양체 위에서 연속 정규화 흐름(CNF)을 훈련하는 새로운 프레임워크인 CNF 매칭(CNFM)을 소개한다. PPD는 훈련 중에 ODE 해석을 피하는 발산 측도이며, 로그 질량 보존 PDE를 활용해 CNF의 흐름을 목표 확률 경로에 매칭시킨다. 이로 인해 구면 및 로봇 상태 공간을 모델링하는 프로덕트 다양체와 같은 저차원 및 중간차원 다양체에서 최신 기술 수준의 우수한 로그 가능도와 샘플 품질을 달성한다.

ABSTRACT

Continuous Normalizing Flows (CNFs) are a class of generative models that transform a prior distribution to a model distribution by solving an ordinary differential equation (ODE). We propose to train CNFs on manifolds by minimizing probability path divergence (PPD), a novel family of divergences between the probability density path generated by the CNF and a target probability density path. PPD is formulated using a logarithmic mass conservation formula which is a linear first order partial differential equation relating the log target probabilities and the CNF's defining vector field. PPD has several key benefits over existing methods: it sidesteps the need to solve an ODE per iteration, readily applies to manifold data, scales to high dimensions, and is compatible with a large family of target paths interpolating pure noise and data in finite time. Theoretically, PPD is shown to bound classical probability divergences. Empirically, we show that CNFs learned by minimizing PPD achieve state-of-the-art results in likelihoods and sample quality on existing low-dimensional manifold benchmarks, and is the first example of a generative model to scale to moderately high dimensional manifolds.

연구 동기 및 목표

• 기존의 가능도 기반 방법을 사용할 경우 다양체 위에서 CNF를 훈련하는 데 발생하는 높은 계산 비용과 제한된 확장성 문제를 해결하기 위해.
• 리만 다양체 위에서 ODE를 사용하지 않고도 효율적으로 CNF를 훈련할 수 있는 발산 측도를 개발함으로써 표현력을 유지하기 위해.
• 이전 방법이 계산적 또는 수치적 제약으로 인해 실패하는 중간 이상의 고차원 다양체(예: S^15)에서도 훈련이 가능하도록 하기 위해.
• 다양한 목표 경로를 유연하게 지원하는 프레임워크를 제공하여, 노이즈에서 데이터 분포로 이르는 경로를 보간할 수 있도록 하기 위해.

제안 방법

• 확률 경로 발산(PPD)을 제안하며, 이는 CNF가 생성하는 확률 경로와 목표 경로 사이의 새로운 발산 측도로, 로그 질량 보존(LMC) PDE를 통해 정의된다.
• LMC PDE는 모델 경로의 로그 밀도와 CNF의 벡터장 간의 관계를 연결하여, PPD가 밀도를 평가하지 않고도 벡터장과 그 도함수로부터 직접 계산될 수 있도록 한다.
• PPD는 단일 매개변수 ℓ ≥ 1로 구성되며, 고전적 발산 측도를 상한으로 제공한다: TV(ℓ=1), α-발산(1<ℓ<∞), 반전 KL(ℓ=∞).
• 이 방법은 PPD를 최소화함으로써 CNF를 훈련시키며, 이는 훈련 중 ODE 해석을 피함으로써 시간과 메모리 비용을 1~2개의 지수 정도 감소시킨다.
• 구면에 대한 입사원 영역 투영과 로봇 공학 상태 공간에 대한 프로덕트 다양체를 포함한 내재 기하학을 활용하여 다양체에 매립된 데이터를 지원한다.
• 탄력적인 목표 경로 설계를 사용하며, p_t는 순수한 노이즈에서 데이터 분포로 전이되며, 로그 p_t와 그 도함수는 해석적 또는 수치적 방법으로 계산 가능하다.

실험 결과

연구 질문

• RQ1 ODE를 사용하지 않고도 고도의 표현력을 유지하면서 다양체 위에서 CNF를 훈련할 수 있는 발산 측도를 정의할 수 있는가?
• RQ2 PPD는 비유클리드 데이터에 대한 가능도 기반 훈련의 이론적으로 타당하고 확장 가능한 대안이 될 수 있는가?
• RQ3 CNFM은 저차원 및 중간차원 다양체에서 가능도 및 샘플 품질 측면에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ4 PPD 기반 훈련은 S^15나 로봇 운동학을 모델링하는 프로덕트 다양체와 같은 고차원 다양체로 어떻게 확장되는가?

주요 결과

• CNFM은 S^1, S^2, S^15에서 최신 기술 수준의 로그 가능도를 달성하였으며, S^15에서 vMF 혼합 모델과 S-FFJORD를 모두 능가하는 0.83 NLL 점수를 기록하였다.
• S^15에서 CNFM은 NLL를 0.83으로 낮추었으며, 최고의 vMF-MM 기준(1.05)과 S-FFJORD(1.15)를 크게 능가하였다.
• CNFM의 훈련 시간은 ODE 기반 가능도 훈련 대비 1~2개의 지수 정도 더 빠르며, 4K초 훈련 런에서 뚜렷한 속도 향상을 보였다.
• CNFM은 Cheetah, Walker, Humanoid를 포함한 로봇 상태 공간을 모델링하는 프로덕트 다양체에서 질적으로 현실적인 샘플을 성공적으로 생성하였으며, 노이즈에서 데이터로의 타당한 경로를 구현하였다.
• MNIST와 같이 고차원(784차원)에서 편향된 기울기 추정이 발생하더라도 CNFM은 안정적으로 작동하며 합리적인 샘플을 생성하였으며, 이는 근사 오차에 대한 강건성을 시사한다.
• PPD가 고전적 발산 측도(TV, α-발산, 반전 KL)를 상한으로 제공함을 입증하여, PPD를 훈련 목표로 사용하는 데 이론적 근거를 제공하였다.