[论文解读] DynamicVAE: Decoupling Reconstruction Error and Disentangled Representation Learning

Huajie Shao, Haohong Lin+4 more|arXiv (Cornell University)|Sep 15, 2020

Generative Adversarial Networks and Image Synthesis参考文献 44被引用 5

一句话总结

DynamicVAE 提出了一种动态、自适应的 KL 权重控制机制，用于变分自编码器（VAE），通过初始使用较高的 β 值以实现解耦，随后降低 β 值以提升重建精度，从而在解耦与重建之间实现解耦。该方法采用改进的增量 PI 控制器，结合滑动平均与混合退火策略，稳定 KL 散度，实现了最先进的重建质量，同时保持了与领先方法相当的解耦性能。

ABSTRACT

This paper challenges the common assumption that the weight $β$, in $β$-VAE, should be larger than $1$ in order to effectively disentangle latent factors. We demonstrate that $β$-VAE, with $β< 1$, can not only attain good disentanglement but also significantly improve reconstruction accuracy via dynamic control. The paper removes the inherent trade-off between reconstruction accuracy and disentanglement for $β$-VAE. Existing methods, such as $β$-VAE and FactorVAE, assign a large weight to the KL-divergence term in the objective function, leading to high reconstruction errors for the sake of better disentanglement. To mitigate this problem, a ControlVAE has recently been developed that dynamically tunes the KL-divergence weight in an attempt to control the trade-off to more a favorable point. However, ControlVAE fails to eliminate the conflict between the need for a large $β$ (for disentanglement) and the need for a small $β$. Instead, we propose DynamicVAE that maintains a different $β$ at different stages of training, thereby decoupling disentanglement and reconstruction accuracy. In order to evolve the weight, $β$, along a trajectory that enables such decoupling, DynamicVAE leverages a modified incremental PI (proportional-integral) controller, and employs a moving average as well as a hybrid annealing method to evolve the value of KL-divergence smoothly in a tightly controlled fashion. We theoretically prove the stability of the proposed approach. Evaluation results on three benchmark datasets demonstrate that DynamicVAE significantly improves the reconstruction accuracy while achieving disentanglement comparable to the best of existing methods. The results verify that our method can separate disentangled representation learning and reconstruction, removing the inherent tension between the two.

研究动机与目标

• 为解决 β-VAE 及相关模型中重建质量与解耦之间的固有权衡问题。
• 挑战传统假设，即 β > 1 是实现有效解耦所必需的。
• 通过在训练过程中动态调整 β，实现对解耦与重建的独立优化。
• 设计一种稳定、自适应的 KL 权重控制机制，避免振荡与超调。
• 从理论上和实证上验证：解耦与重建可被解耦，且互不妥协。

提出的方法

• DynamicVAE 采用改进的增量 PI（比例-积分）控制器，动态演化训练过程中的 β 值。
• 控制器使用混合退火调度，结合线性上升函数与阶跃函数，以平滑地调整 β。
• 对 KL 散度应用滑动平均，以平滑反馈并防止控制回路中的不稳定性。
• 该方法在训练初期将 β 初始化为较高值，以促进早期解耦，随后降低 β 以提升重建精度。
• PI 控制器在特定参数条件下具备理论上的稳定性保证。
• 该方法应用于标准 VAE 目标，仅修改 KL 散度项的权重。

实验结果

研究问题

• RQ1 在基于 VAE 的表征学习中，解耦与重建能否被解耦？
• RQ2 在 β-VAE 中使用 β ≤ 1 是否能在保持解耦的同时提升重建精度？
• RQ3 动态 β 控制机制能否消除重建与解耦之间的权衡？
• RQ4 何种控制策略可确保 β 在训练过程中稳定且有效地演化？
• RQ5 所提出的方法在理论上是否稳定，且在实证上优于现有动态与固定 β 方法？

主要发现

• DynamicVAE 实现的重建精度显著高于先前方法，包括 FactorVAE 和 ControlVAE，同时保持了相当的解耦性能。
• DynamicVAE 在所有因素上的平均 RMIG 得分为 0.4781 ± 0.0172，优于其变体与基线方法。
• DynamicVAE-step 变体（移除线性上升函数）性能下降（RMIG = 0.4555 ± 0.0355），表明平滑退火的重要性。
• DynamicVAE-t 变体（跳过滑动平均）表现更差（RMIG = 0.4570 ± 0.0182），证实平滑处理在稳定性中的关键作用。
• 完整版 DynamicVAE 模型实现了最高的解耦性（RMIG）与重建质量，证明了组合控制策略的有效性。
• 理论分析证实，PI 控制器参数可被选择以确保训练过程中的系统稳定性。