[논문 리뷰] Moser Flow: Divergence-based Generative Modeling on Manifolds

Noam Rozen, Aditya Grover외 2명|arXiv (Cornell University)|2021. 08. 18.

3D Shape Modeling and Analysis참고 문헌 33인용 수 5

한 줄 요약

Moser Flow (MF)는 다양한 곡면 위에서 생성 모델링을 위한 새로운 연속 정규화 흐름(CNF) 프레임워크로, 모델의 밀도를 사전 밀도에서 신경망의 발산을 빼는 방식으로 매개변수화한다. 다각형에서 발산 연산자의 국소성과 계산의 단순성을 활용함으로써, MF는 훈련 중에 ODE를 풀지 않아도 되므로 수렴 속도가 빠르고, 구면 및 일반적인 곡면을 포함한 다양한 곡면에서 밀도 추정 및 샘플 품질 측면에서 최고 성능을 기록한다. 이는 실제 기후 과학 데이터셋까지 포함된 응용 분야에서도 성능을 발휘한다.

ABSTRACT

We are interested in learning generative models for complex geometries described via manifolds, such as spheres, tori, and other implicit surfaces. Current extensions of existing (Euclidean) generative models are restricted to specific geometries and typically suffer from high computational costs. We introduce Moser Flow (MF), a new class of generative models within the family of continuous normalizing flows (CNF). MF also produces a CNF via a solution to the change-of-variable formula, however differently from other CNF methods, its model (learned) density is parameterized as the source (prior) density minus the divergence of a neural network (NN). The divergence is a local, linear differential operator, easy to approximate and calculate on manifolds. Therefore, unlike other CNFs, MF does not require invoking or backpropagating through an ODE solver during training. Furthermore, representing the model density explicitly as the divergence of a NN rather than as a solution of an ODE facilitates learning high fidelity densities. Theoretically, we prove that MF constitutes a universal density approximator under suitable assumptions. Empirically, we demonstrate for the first time the use of flow models for sampling from general curved surfaces and achieve significant improvements in density estimation, sample quality, and training complexity over existing CNFs on challenging synthetic geometries and real-world benchmarks from the earth and climate sciences.

연구 동기 및 목표

• 구면, 토러스 및 일반적인 곡면과 같은 비유클리드 다각형 위에서 확장 가능하고 효율적인 정규화 흐름 프레임워크를 개발하기 위해.
• 기존의 연속 정규화 흐름(CNF)에서 다각형 위에서 훈련 중에 ODE를 풀어야 하는 계산적 병목 현상을 해결하기 위해.
• 복잡한 기하학적 구조, 예를 들어 지구 및 기후 과학 분야의 실제 데이터를 포함한 실세계 데이터에서 고해상도의 밀도 추정 및 샘플 생성을 가능하게 하기 위해.
• 유한한 양의 정밀도를 갖는 유클리드 부분다각형 위에서 임의의 양의 밀도를 근사하는 데 있어 이론적으로 보편성을 확립하기 위해.
• 구면 기하학을 넘어서 일반적인 곡면까지 CNF 기반 생성 모델링을 처음으로 확장하기 위해.

제안 방법

• MF는 목표 밀도를 사전 밀도에서 신경망 벡터장의 발산을 빼는 방식으로 매개변수화하며, 이는 다각형 위에서 국소적이고 선형적인 미분 연산자인 발산을 활용한다.
• Moser의 정리와 Dacorogna–Moser의 정리를 활용하여, 이 매개변수화 방식이 ODE를 통해 유효한 CNF 해를 유도함을 보장하지만, 훈련 중에는 ODE를 풀지 않는다.
• 훈련 중에 ODE 솔버를 통한 역전파를 피하기 위해 직접적으로 발산 항을 최적화함으로써 훈련 비용을 크게 감소시킨다.
• 다각형 제약 조건이 있는 흐름의 경우, 신경망 출력을 다각형의 탄성 공간에 투영하여 벡터장이 다각형에 항상 탄성 유지하도록 보장한다.
• 프레임워크는 유클리드 부분다각형으로 확장되어, 구와 일반적인 곡면과 같은 임bedded 다각형에 적용 가능하게 한다.
• 이론적 분석을 통해 MF가 적절한 조건 하에 컴act하고 연결되어 있으며 경계가 없는 리만 다각형 위에서 양의 밀도를 보편적으로 근사할 수 있음을 증명하였다.

실험 결과

연구 질문

• RQ1 훈련 중에 ODE를 풀지 않으면서도 다각형 위에서 표현력을 유지할 수 있는 정규화 흐름을 설계할 수 있는가?
• RQ2 신경망의 발산을 직접적으로 모델 밀도의 매개변수화에 사용할 수 있는가? 이는 곡면 기하학에서 훈련 효율성과 샘플 품질 향상에 기여하는가?
• RQ3 Moser Flow는 복잡한 다각형, 예를 들어 구면 및 일반적인 곡면에서 밀도 추정 및 생성 성능에서 최고 성능을 달성할 수 있는가?
• RQ4 Moser Flow는 표준 가정 하에 임의의 양의 밀도를 근사하는 데 있어 이론적으로 보편적인가?
• RQ5 Moser Flow는 지구 및 기후 과학 분야의 실세계 과학 데이터셋, 예를 들어 전 세계 기상 및 지리 정보 데이터 등 비유클리드 기하학을 갖는 데 성공적으로 적용될 수 있는가?

주요 결과

• Moser Flow는 구면 및 일반 곡면 위에서 실세계 기후 과학 데이터셋(Volcanic Eruptions, Earthquakes, Floods, Wildfires의 전 세계 분포 포함) 4개에 대해 기존의 리만 CNF보다 평균 49% 향상된 밀도 추정 성능을 기록하였다.
• 기존의 CNF 기반 베이스라인 대비, 합성 곡면에서 고해상도 샘플 생성 시 훨씬 더 빠른 수렴 속도를 보였다.
• Moser Flow는 처음으로 일반 곡면, 예를 들어 스탠포드 번니와 같은 곡면 위에서 연속 정규화 흐름을 훈련시키고 고품질 샘플 생성을 가능하게 하였다.
• 구면 다각형에서 최고 수준의 샘플 품질과 밀도 추정 성능을 달성하였으며, 기존의 CNF 및 비모수적 방법을 모두 능가하였다.
• 훈련 중에 ODE를 풀지 않음으로써, 복잡한 기하학적 구조에서의 최적화를 효율적으로 가능하게 하여 훈련 복잡도를 감소시켰다.
• 이론적 분석을 통해 MF가 표준 가정 하에 컴팩트하고 연결되어 있으며 경계가 없는 리만 다각형 위에서 보편적인 밀도 근사기로 기능함을 확인하였다.