[论文解读] Geodesic Clustering in Deep Generative Models

Tao Yang, Georgios Arvanitidis+3 more|arXiv (Cornell University)|Sep 13, 2018

Generative Adversarial Networks and Image Synthesis参考文献 7被引用 12

一句话总结

本文提出了一种高效算法，用于在深度生成模型的潜在空间中计算测地线距离，利用黎曼几何纠正标准欧几里得距离的失真。通过在变分自编码器中建模不确定性，并使用测地线距离，无需为聚类任务微调模型，简单的聚类算法（如k-medoids）在MNIST、Fashion-MNIST和EMNIST-letter数据集上均实现了最先进性能。

ABSTRACT

Deep generative models are tremendously successful in learning low-dimensional latent representations that well-describe the data. These representations, however, tend to much distort relationships between points, i.e. pairwise distances tend to not reflect semantic similarities well. This renders unsupervised tasks, such as clustering, difficult when working with the latent representations. We demonstrate that taking the geometry of the generative model into account is sufficient to make simple clustering algorithms work well over latent representations. Leaning on the recent finding that deep generative models constitute stochastically immersed Riemannian manifolds, we propose an efficient algorithm for computing geodesics (shortest paths) and computing distances in the latent space, while taking its distortion into account. We further propose a new architecture for modeling uncertainty in variational autoencoders, which is essential for understanding the geometry of deep generative models. Experiments show that the geodesic distance is very likely to reflect the internal structure of the data.

研究动机与目标

• 解决标准欧几里得距离在捕捉深度生成模型潜在空间中真实语义关系方面的失败问题。
• 开发一种高效且可微分的方法，用于计算由深度生成模型诱导的黎曼流形上的测地线（最短路径）。
• 在不为聚类目标微调模型的情况下，提升潜在空间中的聚类性能。
• 提出一种新颖的不确定性感知变分自编码器架构，支持精确的测地线计算。
• 证明测地线距离在潜在空间中比欧几里得距离更能反映数据的内在结构。

提出的方法

• 该方法通过学习的黎曼度量，将深度生成模型的潜在空间建模为随机浸入的黎曼流形。
• 将测地线距离计算表述为变分优化问题，支持通过测地线路径的反向传播。
• 提出一种新型变分自编码器架构，通过独立的网络头显式建模潜在分布的方差，提升不确定性估计精度。
• 测地线距离通过一种可微分且兼容PyTorch/TensorFlow风格框架的数值积分方案计算。
• 采用体积度量（雅可比行列式）对距离进行加权，反映局部流形的失真程度。
• 使用k-medoids算法结合测地线距离进行聚类，避免依赖特定模型的聚类目标。

实验结果

研究问题

• RQ1 在深度生成模型的黎曼流形上计算的测地线距离，是否能比欧几里得距离更好地反映语义相似性？
• RQ2 在变分自编码器中引入不确定性建模，是否能提升测地线距离估计的准确性和鲁棒性？
• RQ3 当使用测地线距离而非欧几里得距离时，简单的聚类算法（如k-medoids）是否能在潜在空间中实现最先进性能？
• RQ4 所提出方法与现有聚类基线在MNIST、Fashion-MNIST和EMNIST-letter等标准基准数据集上的表现相比如何？
• RQ5 潜在空间的流形结构在多大程度上保留了数据的内在聚类结构？

主要发现

• 在MNIST数据集上，使用测地线距离的k-medoids聚类在2类和3类聚类任务中均达到100%准确率，显著优于欧几里得距离（分别为93%和80%）。
• 在Fashion-MNIST数据集上，基于测地线的k-medoids在2类聚类（T恤 vs. 凉鞋）中达到100%准确率，而欧几里得距离为98%。
• 在3类Fashion-MNIST聚类（T恤、凉鞋、包）中，测地线k-medoids达到100%准确率，而欧几里得距离仅达93%。
• 在EMNIST-letter数据集上，测地线k-medoids在区分字母'D'和'd'时达到100%准确率，而欧几里得距离为76%。
• 在所有数据集和聚类任务中，测地线距离始终优于欧几里得距离，证明其能更好地保持数据的内在结构。
• 所提出的不确定性感知VAE架构显著提升了测地线路径估计的准确性，尤其在流形曲率较高的区域。