[论文解读] Improving Sampling from Generative Autoencoders with Markov Chains

Antonia Creswell, Kai Arulkumaran+1 more|arXiv (Cornell University)|Oct 28, 2016

Generative Adversarial Networks and Image Synthesis参考文献 17被引用 13

一句话总结

该论文提出一种马尔可夫链蒙特卡洛（MCMC）采样方法，通过从学习到的潜在分布 $\hat{P}(Z)$ 中采样，以提升生成自编码器的样本质量，该分布可能偏离假设的先验 $P(Z)$。通过迭代解码与编码，MCMC过程可纠正初始采样质量较差的问题，尤其在推理模型的潜在分布与先验显著偏离时，能生成更逼真的样本，且无需修改网络架构。

ABSTRACT

We focus on generative autoencoders, such as variational or adversarial autoencoders, which jointly learn a generative model alongside an inference model. Generative autoencoders are those which are trained to softly enforce a prior on the latent distribution learned by the inference model. We call the distribution to which the inference model maps observed samples, the learned latent distribution, which may not be consistent with the prior. We formulate a Markov chain Monte Carlo (MCMC) sampling process, equivalent to iteratively decoding and encoding, which allows us to sample from the learned latent distribution. Since, the generative model learns to map from the learned latent distribution, rather than the prior, we may use MCMC to improve the quality of samples drawn from the generative model, especially when the learned latent distribution is far from the prior. Using MCMC sampling, we are able to reveal previously unseen differences between generative autoencoders trained either with or without a denoising criterion.

研究动机与目标

• 为解决生成自编码器常学习到偏离目标先验 $P(Z)$ 的潜在分布 $\hat{P}(Z)$ 的问题，该问题会损害样本质量。
• 提出一种方法，使采样从 $\hat{P}(Z)$ 而非 $P(Z)$ 进行，确保与数据生成分布 $P(X)$ 更好对齐。
• 提升变分自编码器（VAEs）、对抗自编码器（AAEs）及其去噪变体的样本质量，尤其在先验仅被软性约束时。
• 验证MCMC采样能揭示使用与不使用去噪准则训练的模型之间的差异。

提出的方法

• 构建一种等价于交替进行解码与编码的MCMC过程，每一步分别从 $P_{\theta}(X|Z)$ 和 $Q_{\phi}(Z|X)$ 中采样。
• 将编码器与解码器函数作为MCMC链中的随机转移，确保平稳分布为学习到的潜在分布 $\hat{P}(Z)$。
• 从 $\mathbf{z}_0 \sim P(Z)$ 初始化采样，然后迭代应用 $\mathbf{z}_{i+1} \sim Q_{\phi}(Z|X = d(\mathbf{z}_i; \theta))$ 以优化潜在变量样本。
• 在MCMC过程中以训练模式应用批量归一化，以稳定更新并补偿初始输入质量差的问题。
• 利用MCMC采样的 $\mathbf{z}_i$ 生成 $\mathbf{x} \sim P_{\theta}(X|Z = \mathbf{z}_i)$，使生成样本比初始样本更具真实感。
• 将该方法应用于VAEs、DVAEs、AAEs与DAAEs，对比MCMC前后生成样本的差异。

实验结果

研究问题

• RQ1 从学习到的潜在分布 $\hat{P}(Z)$ 中进行MCMC采样，是否能生成比从先验 $P(Z)$ 采样更逼真的样本？
• RQ2 当 $\hat{P}(Z)$ 与 $P(Z)$ 显著偏离时，MCMC采样如何影响样本质量？
• RQ3 MCMC采样能否纠正生成自编码器中潜在空间插值引入的伪影？
• RQ4 MCMC过程如何揭示去噪与非去噪生成自编码器变体之间的差异？
• RQ5 在后验近似较差的对抗自编码器中，MCMC采样能在多大程度上提升样本质量？

主要发现

• 在VAEs与DVAEs中，MCMC采样显著提升了样本质量，尤其当从 $P(Z)$ 初始采样结果嘈杂或不真实时效果更明显。
• 经过10步MCMC后，VAEs与DVAEs生成的样本更加逼真，CelebA实验中，从嘈杂背景中逐渐显现出更清晰的面部特征。
• 在AAEs与DAAEs中，由于 $\hat{P}(Z)$ 与 $P(Z)$ 显著偏离，MCMC带来显著改进，反映出模型对先验对齐能力差。
• DAAEs的去噪特性在MCMC采样后更加明显，初始噪声潜在码引入的伪影被有效纠正。
• 在测试图像之间的球面插值中产生的伪影，可通过MCMC采样有效修正，提升视觉连贯性。
• 该MCMC方法与先进的后验建模方法正交，无需修改网络架构即可应用于现有模型，从而提升生成性能。