[논문 리뷰] Mixed-curvature Variational Autoencoders

Ondrej Skopek|arXiv (Cornell University)|2019. 01. 01.

Generative Adversarial Networks and Image Synthesis참고 문헌 56인용 수 12

한 줄 요약

이 논문은 유클리드, 구면, 쌍곡선 공간으로 구성된 상수 곡률 리만 다양체의 곱으로 이루어진 잠재 공간에 일반화된 혼합 곡률 변분 오토인코더(MVAE)를 소개한다. 이는 다양체의 기하학적 특성에 민감하지 않은 표현 학습을 가능하게 하며, 각 구성 요소에 대해 학습 가능한 곡률을 지원한다. MNIST, Omniglot, CIFAR-10에서 이미지 복원 및 우도 추정 측면에서 표준 VAE와 단일 곡률 기반 모델보다 뛰어난 성능을 보였다.

ABSTRACT

Euclidean geometry has historically been the typical "workhorse" for machine learning applications due to its power and simplicity. However, it has recently been shown that geometric spaces with constant non-zero curvature improve representations and performance on a variety of data types and downstream tasks. Consequently, generative models like Variational Autoencoders (VAEs) have been successfully generalized to elliptical and hyperbolic latent spaces. While these approaches work well on data with particular kinds of biases e.g. tree-like data for a hyperbolic VAE, there exists no generic approach unifying and leveraging all three models. We develop a Mixed-curvature Variational Autoencoder, an efficient way to train a VAE whose latent space is a product of constant curvature Riemannian manifolds, where the per-component curvature is fixed or learnable. This generalizes the Euclidean VAE to curved latent spaces and recovers it when curvatures of all latent space components go to 0.

연구 동기 및 목표

• 다양한 데이터 기하학, 예를 들어 트리 구조나 계층적 구조를 포괄하지 못하는 단일 곡률 잠재 공간의 한계를 해결하기 위해.
• 상수 곡률 다양체(유클리드, 구면, 쌍곡선)의 곱에서 변분 추론을 위한 통합 프레임워크를 개발하기 위해.
• 각 잠재 구성 요소에 대해 학습 가능한 곡률을 허용하여 모델이 데이터 구조에 기하학적 특성을 적응시킬 수 있도록 하기 위해.
• 효율적인 최적화와 미분 가능한 연산을 유지하면서 VAE를 비유클리드 잠재 공간으로 일반화하기 위해.
• 여러 데이터셋에서 이미지 복원 및 우도 모델링 성능 향상을 실증적으로 검증하기 위해.

제안 방법

• 모델은 각 잠재 구성 요소가 상수 곡률 공간(K > 0: 구면, K = 0: 유클리드, K < 0: 쌍곡선)에 위치하는 곱 다양체 구조를 사용한다.
• 고체의 곡면과 쌍곡면에서 Poincaré 구와 투영된 구로 점을 매핑하기 위해 사영 투영을 사용하여 곡률이 0에 수렴할수록 유클리드 공간으로 수렴하도록 보장한다.
• 비유클리드 공간에서의 덧셈과 스칼라 곱 연산을 위해 고르벡터 공간을 사용하며, 일반화된 정규분포 유사 사전을 정의한다.
• 백프로파게이션을 지원하기 위해 리만 지수 및 로그 매핑, 평행 이동, 등각 메트릭 텐서를 사용하여 VAE 목표 함수를 확장한다.
• 각 구성 요소에 대해 고정 또는 학습 가능한 곡률을 지원하며, ELBO를 통해 엔드 투 엔드로 곡률 매개변수를 최적화한다.
• 안정적이고 곡률 수렴 성능을 확보하기 위해 Poincaré 구와 투영된 구 모델을 사용하여 0 곡률에서의 발산을 방지한다.

실험 결과

연구 질문

• RQ1 통합 VAE 프레임워크가 유클리드, 구면, 쌍곡선과 같은 다수의 상수 곡률 잠재 공간을 효과적으로 통합하여 표현 학습을 향상시킬 수 있는가?
• RQ2 각 구성 요소의 곡률을 학습 가능하게 하면 고정 곡률 또는 단일 곡률 모델보다 성능 향상이 이루어지는가?
• RQ3 다양한 기하학적 특성을 지닌 데이터셋에서 표준 유클리드 VAE와 단일 곡률 VAE에 비해 모델 성능은 어떻게 비교되는가?
• RQ4 최적화의 불안정성 없이 양성, 영, 음성 곡률 공간 간에 매끄럽게 전이될 수 있는가?
• RQ5 혼합 곡률 잠재 공간이 이미지 생성 작업에서 우도 및 복원 품질에 어떤 영향을 미치는가?

주요 결과

• MNIST 데이터셋에서 72차원 잠재 공간을 사용한 MVAE는 혼합 곡률(E24×H24×S24)로 테스트 로그우도 -75.11±0.05를 기록하여 표준 유클리드 VAE(E72: -74.42±0.06)를 능가했다.
• Omniglot 데이터셋에서 E2×H2×S2 구성 요소를 가진 MVAE는 로그우도 -135.93±0.48을 기록하여 최고의 단일 곡률 기반 베이스라인(U6: -136.04±0.17)을 능가했다.
• CIFAR-10에서 E2×H2×S2 구성 요소를 가진 MVAE는 로그우도 -1895.46±0.92를 기록하여 표준 유클리드 VAE(E6: -1896.19±2.54)를 능가했다.
• 학습 가능한 곡률을 가진 모델((D2)12×(E2)12×(P2)12)는 모든 데이터셋에서 고정 곡률 대비 낮은 음의 로그우도를 기록하여 데이터 기하학에 더 잘 적응함을 시사했다.
• Omniglot에서 (E2)12×(H2)12×(S2)12 구성 요소를 가진 MVAE는 최고의 로그우도(−114.85±0.38)를 기록하여 다음으로 좋은 모델(S6: −116.42±0.32)을 크게 능가했다.
• 시각화 결과 MVAE가 다양한 곡률 구성 요소에서 의미 있는 분리된 표현을 학습함을 확인했으며, 잠재 공간 내에서 구체적인 기하학적 구조가 부각되었다.