[论文解读] Understanding disentangling in $β$-VAE

Christopher Burgess, Irina Higgins+5 more|arXiv (Cornell University)|Apr 10, 2018

Generative Adversarial Networks and Image Synthesis被引用 277

一句话总结

本论文分析为何 β-VAE 学习出解耦表征，并提出一个容量增加训练策略，提升解耦和重建质量。它将 β-VAE 与信息瓶颈联系起来，并演示一个受控的容量增长策略。

ABSTRACT

We present new intuitions and theoretical assessments of the emergence of disentangled representation in variational autoencoders. Taking a rate-distortion theory perspective, we show the circumstances under which representations aligned with the underlying generative factors of variation of data emerge when optimising the modified ELBO bound in $β$-VAE, as training progresses. From these insights, we propose a modification to the training regime of $β$-VAE, that progressively increases the information capacity of the latent code during training. This modification facilitates the robust learning of disentangled representations in $β$-VAE, without the previous trade-off in reconstruction accuracy.

研究动机与目标

• 推动无监督解耦表征学习及其在迁移与泛化中的潜在收益。
• 在理论上将 β-VAE 与信息瓶颈联系起来，并解释轴对齐的解耦。
• 提出并验证一个训练修改，使潜在容量逐步增加，以改善解耦与重建。

提出的方法

• 解释 β-VAE 目标及其与信息瓶颈概念的关系。
• 把 KL 项解读为潜在通道中信息传输的界限。
• 使用简化的因子条件生成器来研究容量与解耦的关系。
• 引入一个容量控制目标，将目标 KL 从零逐步增加到最终值。
• 在 dSprites、彩色 dSprites 和 3D Chairs 上进行经验性评估，包含潜在遍历与重建。

实验结果

研究问题

• RQ1 为什么 β-VAE 趋向于学习轴对齐的解耦表征？
• RQ2 信息瓶颈约束如何塑造潜在轴向与因子解耦？
• RQ3 在训练过程中逐步增加潜在容量是否能在不牺牲重建质量的前提下改善解耦？
• RQ4 所提出的容量控制训练如何影响标准数据集上定性解耦因子？
• RQ5 学习到的潜在轴是否在跨数据集上对应于人类可解释的变动因子？

主要发现

• β-VAE 产生保持局部性的潜在表示并与潜在变异因子对齐的轴向。
• 后验容量约束将编码偏向于最能提升数据对数似然的因子，从而促成解耦。
• 受控容量增加比固定 β 目标实现更稳健的解耦和更好的重建。
• 在彩色 dSprites 与 3D Chairs 上，潜在遍历显示位置、尺度、形状、旋转和颜色等因子被独立编码。
• 容量增加方法使表示逐步变得更丰富，同时在各因子上保持解耦。