[论文解读] Latent Space Non-Linear Statistics

Line Kühnel, Tom Fletcher+2 more|arXiv (Cornell University)|May 19, 2018

Generative Adversarial Networks and Image Synthesis参考文献 15被引用 21

一句话总结

本文提出了一种框架，用于对变自编码器（VAE）和生成对抗网络（GAN）等深度生成模型所学习的潜在空间执行非线性统计分析。通过利用黎曼几何，该方法实现了主测地线分析（PGA）以及通过布朗桥模拟进行的最大似然估计，同时通过训练一个神经网络来近似黎曼度量张量，显著提升了高维数据的计算效率。

ABSTRACT

Given data, deep generative models, such as variational autoencoders (VAE) and generative adversarial networks (GAN), train a lower dimensional latent representation of the data space. The linear Euclidean geometry of data space pulls back to a nonlinear Riemannian geometry on the latent space. The latent space thus provides a low-dimensional nonlinear representation of data and classical linear statistical techniques are no longer applicable. In this paper we show how statistics of data in their latent space representation can be performed using techniques from the field of nonlinear manifold statistics. Nonlinear manifold statistics provide generalizations of Euclidean statistical notions including means, principal component analysis, and maximum likelihood fits of parametric probability distributions. We develop new techniques for maximum likelihood inference in latent space, and adress the computational complexity of using geometric algorithms with high-dimensional data by training a separate neural network to approximate the Riemannian metric and cometric tensor capturing the shape of the learned data manifold.

研究动机与目标

• 通过非线性流形统计方法，在深度生成模型的低维潜在空间中实现统计分析。
• 克服在高维潜在空间中评估黎曼度量与曲率张量所带来的计算负担。
• 开发一种可微分、端到端的框架，通过在学习到的流形上使用扩散过程实现均值的最大似然估计。
• 通过在真实世界数据（如MNIST）上使用2D VAE潜在空间，展示非线性统计的实用性。
• 通过训练一个辅助神经网络来预测黎曼度量张量及其对偶张量，加速几何算法。

提出的方法

• 通过生成模型的编码器映射，将潜在空间的欧氏度量从数据空间拉回到潜在空间，从而将其视为黎曼流形。
• 应用主测地线分析（PGA）以建模潜在空间中主要的变化模式，将主成分分析（PCA）推广至非线性流形。
• 通过在潜在流形上模拟条件扩散过程（布朗桥），执行均值的最大似然估计。
• 训练一个独立的神经网络来近似黎曼度量张量及其逆（对偶度量），从而实现几何量的快速评估。
• 利用Theano Geometry的自动微分机制，高效表达并计算微分几何运算。
• 统计推断在潜在空间中进行，避免在原始数据空间中进行高维计算。

实验结果

研究问题

• RQ1 如何将经典的统计技术（如PCA）推广至深度生成模型所学习的非线性潜在流形？
• RQ2 能否通过布朗桥等随机过程在黎曼潜在流形上有效执行均值的最大似然估计？
• RQ3 在高维潜在空间中评估黎曼几何量（如克里斯托费尔符号、曲率）的计算成本是多少？如何降低该成本？
• RQ4 在多大程度上可以使用神经网络来近似潜在空间中的黎曼度量，以加速几何与统计算法？
• RQ5 与标准线性方法相比，潜在空间中非线性统计的结果在可解释性与数据表示质量方面表现如何？

主要发现

• 所提出的方法成功在MNIST数据集上训练的VAE的2D潜在空间上执行了主测地线分析，揭示了沿非线性主成分的数字形状有意义的变化。
• 通过布朗桥模拟估计的最大似然均值收敛为一个视觉上连贯的数字（如‘9’），与弗雷歇均值一致，验证了推断过程的有效性。
• 对黎曼度量的神经网络近似将计算成本降低了数个数量级，使得高维潜在空间中几何运算的快速评估成为可能。
• 潜在空间中的标量曲率与里奇曲率图揭示了非平凡的几何结构，如流形上曲率的变化，表明其具有复杂的内在几何特性。
• 潜在空间中的平行移动保持了向量在黎曼度量下的长度，证实了模型正确捕捉了几何结构。
• MLE优化过程中似然值单调收敛，表明基于扩散的均值估计优化过程稳定且可靠。