[论文解读] Latent Variable Modelling Using Variational Autoencoders: A survey

Vasanth Kalingeri|arXiv (Cornell University)|Jun 20, 2022

Computational and Text Analysis Methods被引用 4

一句话总结

本综述全面概述了变分自编码器（VAEs）作为潜在变量建模框架的各个方面，阐明了其理论基础、优化技术以及近期进展。文章详细说明了VAEs如何利用变分推断来近似难以计算的后验分布，对比了重参数化与得分函数梯度，回顾了提升模型容量、降低梯度方差以及建模离散潜在变量的方法。

ABSTRACT

A probability distribution allows practitioners to uncover hidden structure in the data and build models to solve supervised learning problems using limited data. The focus of this report is on Variational autoencoders, a method to learn the probability distribution of large complex datasets. The report provides a theoretical understanding of variational autoencoders and consolidates the current research in the field. The report is divided into multiple chapters, the first chapter introduces the problem, describes variational autoencoders and identifies key research directions in the field. Chapters 2, 3, 4 and 5 dive into the details of each of the key research areas. Chapter 6 concludes the report and suggests directions for future work. A reader who has a basic idea of machine learning but wants to learn about general themes in machine learning research can benefit from the report. The report explains central ideas on learning probability distributions, what people did to make this tractable and goes into details around how deep learning is currently applied. The report also serves a gentle introduction for someone looking to contribute to this sub-field.

研究动机与目标

• 提供变分自编码器（VAEs）作为学习复杂数据分布的可扩展方法的统一理论与实践理解。
• 识别并分析VAEs中的关键研究方向，包括改进的推断、更优的解码器以及离散潜在状态的建模。
• 解释VAE训练中重参数化梯度与得分函数梯度之间的权衡，重点关注梯度方差降低与优化稳定性。
• 综述近期提升VAE性能与表达能力的技术，如归一化流、贝叶斯非参数方法以及控制变量。
• 为进入深度生成建模领域、使用VAEs的研究人员提供基础性参考资料。

提出的方法

• 使用证据下界（ELBO）作为目标函数，以近似潜在变量模型下观测数据的边缘对数似然。
• 应用重参数化技巧，通过将潜在变量表示为噪声变量的确定性函数，实现在随机节点上的低方差反向传播。
• 采用得分函数梯度（REINFORCE）处理非重参数化分布，尤其适用于离散潜在变量，并利用控制变量降低梯度方差。
• 引入层次化推断与归一化流，以提升近似后验分布的灵活性与表达能力。
• 利用变分高斯过程与贝叶斯非参数方法，实现潜在空间的非参数建模，提升泛化能力。
• 应用重要性采样与蒙特卡洛目标，以优化ELBO近似，提升训练稳定性和收敛性。

实验结果

研究问题

• RQ1 如何改进变分自编码器，以更好地建模图像和文本等复杂、高维的数据分布？
• RQ2 在VAE优化中，重参数化梯度与得分函数梯度之间的权衡是什么？如何有效降低梯度方差？
• RQ3 当重参数化技巧不适用时，如何在VAEs中建模离散潜在变量？
• RQ4 有哪些技术可在不增加计算成本的前提下，增强VAE中推理网络与解码器的表达能力？
• RQ5 归一化流与贝叶斯非参数方法如何提升所学习潜在表示的质量与灵活性？

主要发现

• 重参数化技巧使得通过潜在变量采样过程的低方差、可微分梯度成为可能，从而实现连续潜在变量的VAE训练的稳定与高效。
• 得分函数梯度虽然适用于非重参数化分布（如离散变量），但存在高方差问题，可通过控制变量与Rao–Blackwellization加以缓解。
• 归一化流通过可逆且可微的映射，将简单基分布转换为复杂分布，显著提升了近似后验的灵活性。
• 层次化推断与变分高斯过程使得后验近似更具表达力与自适应性，从而提升模型容量与泛化能力。
• 重要性采样与蒙特卡洛目标提供了对边缘似然的更紧边界，从而实现更优的优化与更高质量的生成结果。
• 对离散潜在变量的连续近似（如Gumbel-Softmax技巧）通过提供可微分采样，实现了具有离散潜在变量的VAE的端到端训练。