[论文解读] Commutative Lie Group VAE for Disentanglement Learning

Xinqi Zhu, Chang Xu+1 more|arXiv (Cornell University)|Jun 7, 2021

Digital Media Forensic Detection参考文献 42被引用 6

一句话总结

该论文提出了一种新颖的无监督解耦方法——交换李群变分自编码器（Commutative Lie Group Variational Autoencoders, CLG-VAE），通过自适应群结构而非固定向量空间来建模数据变化。通过李代数参数化李群并施加交换分解与Hessian惩罚，该模型在DSprites和3DShapes数据集上实现了当前最优的解耦性能，且无需统计独立性约束。

ABSTRACT

We view disentanglement learning as discovering an underlying structure that equivariantly reflects the factorized variations shown in data. Traditionally, such a structure is fixed to be a vector space with data variations represented by translations along individual latent dimensions. We argue this simple structure is suboptimal since it requires the model to learn to discard the properties (e.g. different scales of changes, different levels of abstractness) of data variations, which is an extra work than equivariance learning. Instead, we propose to encode the data variations with groups, a structure not only can equivariantly represent variations, but can also be adaptively optimized to preserve the properties of data variations. Considering it is hard to conduct training on group structures, we focus on Lie groups and adopt a parameterization using Lie algebra. Based on the parameterization, some disentanglement learning constraints are naturally derived. A simple model named Commutative Lie Group VAE is introduced to realize the group-based disentanglement learning. Experiments show that our model can effectively learn disentangled representations without supervision, and can achieve state-of-the-art performance without extra constraints.

研究动机与目标

• 通过使用自适应群结构建模数据变化，解决固定向量空间表示在解耦学习中的次优性问题。
• 通过利用群作用学习等变表示，而非刚性向量空间平移，实现无监督解耦。
• 从李群理论推导出实用的训练约束，自然地促进解耦。
• 证明基于群的表征学习可在不依赖统计独立性的情况下实现当前最优的解耦性能。
• 提出一种简单有效的VAE变体——瓶颈VAE，实现基于群的解耦，且可使用标准优化方法。

提出的方法

• 提出log p(x)的新下界，以推导出瓶颈VAE——一种简化基于群学习训练目标的VAE变体。
• 使用李代数参数化将群元素映射到线性空间，实现李群上的可微优化与采样。
• 引入两种自然约束：单参数子群分解与Hessian惩罚，源自群结构假设。
• 通过在瓶颈VAE解码器中添加指数映射层及交换分解约束，构建交换李群VAE。
• 利用指数映射将学习到的李代数向量转换为表示解耦数据变化的群元素。
• 依赖李群的交换性质简化分解过程，并通过结构约束强制实现解耦。

实验结果

研究问题

• RQ1 自适应群结构是否能在无监督解耦学习中优于固定向量空间？
• RQ2 通过利用群论等变性，是否可在不强制统计独立性的情况下实现解耦？
• RQ3 李代数参数化是否能实现基于群的生成模型的实际训练？
• RQ4 基于群的约束（如Hessian惩罚与单参数子群分解）如何影响解耦质量？
• RQ5 所提模型是否能在无监督条件下泛化至复杂的真实世界数据集？

主要发现

• 所提出的交换李群VAE在DSprites和3DShapes数据集上实现了当前最优性能，且未使用统计独立性约束。
• 在DSprites上，该模型在所有对比方法中取得了最佳FVM分数，表明其解耦质量更优。
• 在CelebA上，该模型发现了更清晰、更具可解释性的语义属性，如额头发式与妆容，而这些在FactorVAE中是纠缠的。
• 在Mnist上，该模型学习到了有意义的连续变化，如数字大小与笔画弯曲度，包括对数字4的新型“抬升”概念。
• 在3DChairs上，尽管理论基础不同，该模型的解耦质量与当前最优的CascadeVAE相当。
• 定性结果表明，该模型能有效将背景概念与面部属性解耦，而基线模型中纠缠现象依然存在。