[论文解读] Augmented Normalizing Flows: Bridging the Gap Between Generative Flows and Latent Variable Models

Chin-Wei Huang, Laurent Dinh+1 more|arXiv (Cornell University)|Feb 17, 2020

Generative Adversarial Networks and Image Synthesis参考文献 77被引用 25

一句话总结

本文提出了增强归一化流（ANFs），一种通过在数据 $x$ 和独立噪声 $e$ 的增强空间上学习可逆变换来提升表达能力的生成建模框架。通过同时对 $x$ 和 $e$ 进行条件化，ANFs 利用哈密顿 ODE 实现任意分布的通用近似，从而在密度估计和图像生成任务中实现最先进性能，同时保持高效的采样与似然评估。

ABSTRACT

In this work, we propose a new family of generative flows on an augmented data space, with an aim to improve expressivity without drastically increasing the computational cost of sampling and evaluation of a lower bound on the likelihood. Theoretically, we prove the proposed flow can approximate a Hamiltonian ODE as a universal transport map. Empirically, we demonstrate state-of-the-art performance on standard benchmarks of flow-based generative modeling.

研究动机与目标

• 解决标准归一化流因依赖于通过顺序耦合层实现的局部特征依赖而导致的全局表达能力有限的问题。
• 通过引入具有独立噪声的增强潜在空间，克服标准流中微分同胚带来的拓扑约束。
• 通过同时对数据和辅助噪声变量进行条件化，实现更灵活且全局一致的概率质量传输。
• 提出一种原理性的参数估计方法——增强最大似然估计（AMLE），以最大化原始数据的边际似然的下界。
• 理论与实证验证 ANFs 作为通用传输映射族的能力，能够近似哈密顿 ODE，并在生成建模基准中实现最先进性能。

提出的方法

• 将输入数据 $x$ 与独立噪声变量 $e$ 增强，形成扩展的潜在空间 $(x, e)$，以支持更灵活的可逆变换。
• 设计两阶段流：首先在 $x$ 条件下将 $e$ 变换为 $z$，然后在 $z$ 条件下将 $x$ 变换为 $y$，最终得到联合高斯化分布 $(y, z)$。
• 在增强空间上使用分块耦合层（如 Dinh 等，2017 年所述），以保持雅可比行列式计算的可处理性。
• 提出增强最大似然估计（AMLE），以最大化边际似然 $p(x)$ 的下界，避免直接在联合空间上进行优化。
• 理论分析表明，ANFs 可以通过将哈密顿 ODE 作为传输映射，实现对任意概率分布的通用近似，从而将任何数据分布近似为标准高斯分布，且辅助变量退化。
• 利用神经网络参数化流组件，结合残差连接与归一化流，以确保可逆性并实现高效的雅可比行列式计算。

实验结果

研究问题

• RQ1 在不增加计算成本的前提下，通过引入独立噪声增强输入空间是否能提升归一化流的表达能力？
• RQ2 ANFs 是否能通过哈密顿 ODE 实现对任意概率分布的通用近似，即使标准流受限于微分同胚的约束？
• RQ3 所提出的 AMLE 框架是否相比标准归一化流或 VAE 提供更紧的边际似然下界？
• RQ4 ANFs 是否能在保持高效采样与似然评估的同时，实现在密度估计与图像生成任务中的最先进性能？
• RQ5 增强空间的使用如何使变换比标准流基模型更具全局一致性？

主要发现

• ANFs 在标准密度估计基准上实现了最先进性能，其对数似然得分优于先前的归一化流与 VAE。
• 理论分析证明，使用加法耦合层的 ANFs 可通过模拟哈密顿 ODE 作为传输映射，实现对任意概率分布的通用近似。
• 该方法在分布上表现出流序列向真实传输映射收敛，且随着层数增加，数据与增强变量的误差均收敛至零。
• 实证结果表明，ANFs 在 CIFAR-10 与 CelebA 数据集上的图像生成质量与似然得分更优，其对数似然与最先进模型相比具有竞争力或更优。
• AMLE 提供了一个有效且合理的训练目标，通过最大化 $x$ 的边际似然下界，实现端到端学习，而无需显式建模联合分布。
• 增强空间允许对数据流形进行更灵活、非保持拓扑结构的形变，从而更好地建模复杂、高维的依赖关系。