[论文解读] Guided Variational Autoencoder for Disentanglement Learning

Zheng Ding, Yifan Xu+5 more|arXiv (Cornell University)|Apr 2, 2020

Generative Adversarial Networks and Image Synthesis参考文献 71被引用 10

一句话总结

本文提出Guided-VAE，一种新颖的变分自编码器框架，通过轻量级引导机制增强潜在表征的解耦性和可控性。该方法引入无监督可变形主成分分析（PCA）与有监督对抗性激活/抑制机制，在不改变VAE主干架构的前提下引导潜在空间学习，实现了在MNIST、CelebA、CIFAR10和Omniglot数据集上更优的解耦性、更佳的图像生成效果以及更少的 few-shot 分类误差。

ABSTRACT

We propose an algorithm, guided variational autoencoder (Guided-VAE), that is able to learn a controllable generative model by performing latent representation disentanglement learning. The learning objective is achieved by providing signals to the latent encoding/embedding in VAE without changing its main backbone architecture, hence retaining the desirable properties of the VAE. We design an unsupervised strategy and a supervised strategy in Guided-VAE and observe enhanced modeling and controlling capability over the vanilla VAE. In the unsupervised strategy, we guide the VAE learning by introducing a lightweight decoder that learns latent geometric transformation and principal components; in the supervised strategy, we use an adversarial excitation and inhibition mechanism to encourage the disentanglement of the latent variables. Guided-VAE enjoys its transparency and simplicity for the general representation learning task, as well as disentanglement learning. On a number of experiments for representation learning, improved synthesis/sampling, better disentanglement for classification, and reduced classification errors in meta-learning have been observed.

研究动机与目标

• 在不修改核心VAE架构的前提下，提升变分自编码器中潜在表征的解耦性与可解释性。
• 通过引导特定潜在变量编码有意义的语义属性（如旋转、缩放或性别等），实现可控生成。
• 在保持VAE概率生成能力的同时，通过辅助轻量级解码器提升透明度与建模保真度。
• 开发无监督与有监督的引导策略，使其可在多任务学习框架中端到端训练。
• 与原始VAE及基线模型相比，展示在表征学习、图像生成、解耦性与 few-shot 分类任务中的性能提升。

提出的方法

• 在无监督Guided-VAE中引入轻量级辅助解码器，学习可变形PCA，以引导主VAE学习具有几何意义的潜在表征。
• 采用多任务学习目标：主VAE负责重建输入数据，子解码器则在潜在空间施加几何与主成分约束。
• 在有监督变体中，应用对抗性激活与抑制机制，使某一潜在变量具有判别性（最小化分类误差），而其他变量则被最大化混淆（对抗性抑制）。
• 使用子网络从潜在码预测类别标签，并通过反向传播梯度以鼓励潜在空间中的解耦性与信息量。
• 保持标准VAE架构与训练目标，仅增加轻量级组件与损失项以实现引导。
• 通过联合重建损失与引导损失端到端训练整个模型，同时保留VAE的概率建模与生成能力。

实验结果

研究问题

• RQ1 是否可在不改变VAE架构的前提下，仅通过轻量级引导机制学习到解耦且可解释的潜在表征？
• RQ2 可变形PCA作为子任务，在引导VAE学习几何意义明确的解耦因子方面有多有效？
• RQ3 对抗性激活与抑制机制是否能提升VAE潜在空间中的解耦性与可控性？
• RQ4 与标准VAE相比，引导式潜在学习是否能在 few-shot 分类与图像生成任务中带来更好的性能？
• RQ5 引导机制在多大程度上提升了解耦性，同时保持了VAE的生成与重建特性？

主要发现

• Guided-VAE 在潜在空间中实现了更优的解耦性与可控性，在图像遍历实验中可清晰观察到属性控制效果。
• 采用可变形PCA的无监督Guided-VAE生成的采样结果比标准PCA更清晰、更具结构。
• 在Omniglot数据集中，Guided-VAE在1-shot学习中达到97.8%的few-shot分类准确率，与Bruno和Matching Nets等最先进判别模型相当。
• 有监督变体在元学习任务中降低了分类误差，在1-shot Omniglot上达到97.8%准确率，优于基线VAE并匹配顶尖模型表现。
• 消融研究证实，若移除几何引导或抑制机制，解耦性将下降，属性控制能力丧失。
• 引导自编码器变体在MNIST分类任务中误差降低至1.10%（当d_z=64时），优于标准自编码器（1.34%），证明即使在非概率设置下，引导机制仍具显著优势。