[论文解读] Mixed-curvature Variational Autoencoders

Ondrej Skopek|arXiv (Cornell University)|Jan 1, 2019

Generative Adversarial Networks and Image Synthesis参考文献 56被引用 12

一句话总结

该论文提出了一种混合曲率变分自编码器（MVAE），将变分自编码器推广至由常曲率黎曼流形（欧氏、球面和双曲）构成的潜在空间，实现了灵活且曲率无关的表征学习。该模型支持每个组件的可学习曲率，并在MNIST、Omniglot和CIFAR-10数据集上的图像重建与似然估计任务中优于标准VAE和单曲率基线模型。

ABSTRACT

Euclidean geometry has historically been the typical "workhorse" for machine learning applications due to its power and simplicity. However, it has recently been shown that geometric spaces with constant non-zero curvature improve representations and performance on a variety of data types and downstream tasks. Consequently, generative models like Variational Autoencoders (VAEs) have been successfully generalized to elliptical and hyperbolic latent spaces. While these approaches work well on data with particular kinds of biases e.g. tree-like data for a hyperbolic VAE, there exists no generic approach unifying and leveraging all three models. We develop a Mixed-curvature Variational Autoencoder, an efficient way to train a VAE whose latent space is a product of constant curvature Riemannian manifolds, where the per-component curvature is fixed or learnable. This generalizes the Euclidean VAE to curved latent spaces and recovers it when curvatures of all latent space components go to 0.

研究动机与目标

• 为解决单曲率潜在空间在捕捉多样化数据几何结构（如树状或层次结构）方面的局限性。
• 构建一个统一的框架，用于常曲率流形乘积空间（欧氏、球面、双曲）中的变分推断。
• 实现每个潜在组件的可学习曲率，使模型能够根据数据结构自适应调整几何形态。
• 在保持高效优化与可微操作的前提下，将VAE推广至非欧氏潜在空间。
• 通过实证验证在多个数据集上图像重建与似然建模任务中性能的提升。

提出的方法

• 模型采用流形乘积结构，其中每个潜在组件位于常曲率空间中（K > 0 为球面，K = 0 为欧氏，K < 0 为双曲）。
• 利用立体投影将点从超球面和双曲面映射至庞加莱球与投影球面，确保在曲率趋近于零时收敛至欧氏空间。
• 框架定义了广义的高斯型先验，并使用双曲向量空间实现非欧氏空间中的加法与数乘运算。
• 通过引入黎曼指数映射与对数映射、平行移动及共形度量张量，将VAE目标函数扩展至非欧氏空间，支持反向传播。
• 模型支持每个组件的固定或可学习曲率，曲率参数通过ELBO端到端优化。
• 采用庞加莱球与投影球模型实现稳定且曲率收敛的优化，避免在零曲率处发散。

实验结果

研究问题

• RQ1 统一的VAE框架能否有效结合多种常曲率潜在空间（欧氏、球面、双曲）以提升表征学习性能？
• RQ2 允许每个组件的曲率可学习，是否能带来优于固定曲率或单曲率模型的性能提升？
• RQ3 该模型在具有多样化几何结构的数据集上，与标准欧氏VAE及单曲率VAE相比表现如何？
• RQ4 模型能否在不引起优化不稳定的前提下，平滑地在正曲率、零曲率与负曲率空间之间过渡？
• RQ5 混合曲率潜在空间对图像生成任务中似然与重建质量有何影响？

主要发现

• 在72维潜在空间的MNIST数据集中，采用混合曲率的MVAE（E24×H24×S24）达到测试对数似然-75.11±0.05，优于标准欧氏VAE（E72: -74.42±0.06）。
• 在Omniglot数据集中，采用E2×H2×S2组件的MVAE实现对数似然-135.93±0.48，优于最佳单曲率基线模型（U6: -136.04±0.17）。
• 在CIFAR-10数据集中，采用E2×H2×S2组件的MVAE实现对数似然-1895.46±0.92，优于标准欧氏VAE（E6: -1896.19±2.54）。
• 采用可学习曲率的模型（如(D2)12×(E2)12×(P2)12）在所有数据集上均取得比固定曲率模型更低的负对数似然，表明其对数据几何结构具有更优的适应性。
• 在Omniglot数据集中，采用(E2)12×(H2)12×(S2)12组件的MVAE实现最佳对数似然（−114.85±0.38），显著优于次优模型（S6: −116.42±0.32）。
• 可视化结果证实，MVAE在不同曲率组件中学习到了有意义且解耦的表征，潜在空间中呈现出清晰的几何结构差异。