[论文解读] Disentangling by Subspace Diffusion

David Pfau, Irina Higgins+2 more|arXiv (Cornell University)|Jun 23, 2020

Morphological variations and asymmetry参考文献 72被引用 5

一句话总结

本文提出 GeoManCEr，一种非参数化算法，通过子空间扩散估计不变子空间，利用微分几何中的 de Rham 分解，实现对数据流形的解耦。研究证明，当真实流形度量已知且每个因子流形具有非平凡全息性（如三维旋转）时，完全无监督的解耦是可能的，为表示学习提供了几何基础。

ABSTRACT

We present a novel nonparametric algorithm for symmetry-based disentangling of data manifolds, the Geometric Manifold Component Estimator (GEOMANCER). GEOMANCER provides a partial answer to the question posed by Higgins et al. (2018): is it possible to learn how to factorize a Lie group solely from observations of the orbit of an object it acts on? We show that fully unsupervised factorization of a data manifold is possible if the true metric of the manifold is known and each factor manifold has nontrivial holonomy -- for example, rotation in 3D. Our algorithm works by estimating the subspaces that are invariant under random walk diffusion, giving an approximation to the de Rham decomposition from differential geometry. We demonstrate the efficacy of GEOMANCER on several complex synthetic manifolds. Our work reduces the question of whether unsupervised disentangling is possible to the question of whether unsupervised metric learning is possible, providing a unifying insight into the geometric nature of representation learning.

研究动机与目标

• 解决在无附加信息或强假设条件下，是否可能实现数据流形的无监督解耦。
• 为 Higgins 等人（2018）提出的基于对称性的解耦问题提供几何解法，聚焦于李群作用。
• 将解耦挑战简化为底层流形度量的可学习性，统一几何与表示学习的视角。
• 证明当每个因子流形具有非平凡全息性（如三维旋转）时，解耦是可实现的。

提出的方法

• GeoManCEr 估计在数据流形上随机游走扩散下保持不变的子空间，近似微分几何中的 de Rham 分解。
• 其依赖于已知的真实流形度量，以计算揭示几何分量的扩散过程。
• 该算法识别出扩散不混合方向的子空间，表明存在独立的因子流形。
• 它利用 de Rham 分解定理，正式证明此类不变子空间对应于流形的不可约分量。
• 该方法在局部度量信息可用时直接作用于数据，避免了对学习到的非线性嵌入的依赖。
• 该方法适用于具有非平凡全息性的流形，如三维中的旋转群，其中交换子群可实现无歧义的类比推理。

实验结果

研究问题

• RQ1 是否仅从群轨道的观测中，即可实现数据流形的完全无监督解耦？
• RQ2 在已知真实度量的前提下，是否可能在无监督条件下恢复李群作用在流形上的分解？
• RQ3 因子流形中非平凡全息性的存在，是否能通过几何扩散实现解耦？
• RQ4 是否可使用观测流形上的扩散过程近似 de Rham 分解？

主要发现

• GeoManCEr 通过子空间扩散识别不变子空间，成功对复杂合成流形实现了解耦，即使未学习非线性嵌入亦可。
• 当真实流形度量已知且每个因子流形具有非平凡全息性（如三维旋转）时，该方法实现了有效解耦。
• 相比之下，标准的 β-VAE 模型在 Stanford 3D Objects 数据集上无法学习到解耦表示，表现为 UDR 评分接近零，潜在空间遍历显示姿态与光照编码混合。
• UDR 指标表明，在超参数搜索范围内，不存在具有高解耦潜力的 β-VAE 模型，所有有信息量的潜在维度均同时编码姿态与光照。
• 在固定条件下推断的均值显示，任意潜在维度的方差均无减少，证实 β-VAE 未学习到任何解耦子空间。
• 结果支持如下论断：仅当度量已知且全息性非平凡时，无监督解耦在几何上才可行，问题可简化为度量学习。