[论文解读] Explorations in Homeomorphic Variational Auto-Encoding

Luca Falorsi, Pim de Haan+5 more|arXiv (Cornell University)|Jul 12, 2018

Neural Networks and Applications参考文献 10被引用 59

一句话总结

该论文通过重参数化技巧将变分自编码器扩展到李群上的流形值潜在变量（特别是 SO(3)），证明拓扑匹配的潜在空间能保持结构并提升学习。

ABSTRACT

The manifold hypothesis states that many kinds of high-dimensional data are concentrated near a low-dimensional manifold. If the topology of this data manifold is non-trivial, a continuous encoder network cannot embed it in a one-to-one manner without creating holes of low density in the latent space. This is at odds with the Gaussian prior assumption typically made in Variational Auto-Encoders (VAEs), because the density of a Gaussian concentrates near a blob-like manifold. In this paper we investigate the use of manifold-valued latent variables. Specifically, we focus on the important case of continuously differentiable symmetry groups (Lie groups), such as the group of 3D rotations $\operatorname{SO}(3)$. We show how a VAE with $\operatorname{SO}(3)$-valued latent variables can be constructed, by extending the reparameterization trick to compact connected Lie groups. Our experiments show that choosing manifold-valued latent variables that match the topology of the latent data manifold, is crucial to preserve the topological structure and learn a well-behaved latent space.

研究动机与目标

• 当数据在非平凡拓扑上时，动机使用流形值潜在变量以在潜在空间中保持拓扑结构。
• 为紧致连通李群上的分布开发重参数化技巧，重点是 SO(3)。
• 设计一个编码器，使数据流形到潜在李群的同胚映射学习；设计一个解码器，利用群作用来尊重结构。
• 在经验上表明，将潜在拓扑结构与数据流形匹配能提升连续性和重建，以及群作用解码器在性能上优于标准解码器。

提出的方法

• 重参数化：从 R^3 上可尺度重新参数化的分布中采样，通过指数映射映射到 so(3)，再左乘一个群元素以将分布居中在 SO(3)。
• 密度：证明在 SO(3) 上诱导的前向密度对于 Haar 测度是绝对连续的，并通过带 Rodrigues 公式的指数映射推导密度。
• 编码器设计：分为 enc^mu（映射到一个群元素 R_mu）和 enc^sigma（映射到一个欧几里得尺度）；enc^mu 依赖于一个固定的满射 pi: Y -> SO(3) 以及将 SO(3) 嵌入 Y 以实现同胚。
• 解码器：实现一个群作用解码器，利用 SO(3) 旋转潜在表示并投影回数据空间；提出一个使用 Wigner-D 矩阵处理姿态的傅里叶分析解码器。
• 实验：在合成的 SO(3) 嵌入和旋转彩色立方体图像上，将 SO(3) 潜在变量与高斯和高斯-球面基线进行比较；通过 NLL/ELBO 与重建评估连续性与似然。
• 探索：分析均值参数化（如 q、alg、s2s1、s2s2）并展示面向拓扑的参数化带来连续嵌入。

实验结果

研究问题

• RQ1 是否可以将生活在李群（如 SO(3)）上的潜在变量重参数化，以便进行端到端学习并具备拓扑保证？
• RQ2 将潜在空间拓扑与数据流形对齐，是否比标准高斯 VAE 在连续性、重建质量和对数似然方面有所改善？
• RQ3 群作用解码器是否比简单的 MLP 解码器更好地保持和利用潜在结构？
• RQ4 SO(3) 的不同均值参数化（如四元数、李代数、球面乘积）如何影响连续性和流形表示？
• RQ5 提出的方法是否可以推广到除了 SO(3) 之外的其他紧致、连通李群？

主要发现

• 为 SO(3) 分布推导出一个重参数化技巧，使得具备 SO(3) 潜在变量的 VAE 训练成为可能。
• 编码器学习数据流形与 SO(3) 潜在流形之间的同胚映射，保留拓扑结构。
• 群作用解码器提高了性能，并促使潜在空间结构与群一致，优于 MLP 解码器。
• 拓扑匹配的潜在变量（尤其是 S^2 × S^2 均值参数化）比平坦高斯潜在更连续、更真实的潜在嵌入。
• 高斯和李代数基础的均值参数化可能引入不连续性，而面向拓扑的参数化保持潜在轨迹的连续性。
• 在含 SO(3) 的数据和旋转彩色立方体图像上的实验表明，只有正确的流形值潜在变量才能实现连续嵌入并获得更高的对数似然。