[论文解读] A Mathematical Introduction to Generative Adversarial Nets (GAN)

yuanming wang|arXiv (Cornell University)|Sep 1, 2020

Generative Adversarial Networks and Image Synthesis参考文献 2被引用 15

一句话总结

本文为数学背景读者提供了生成对抗网络（GANs）的数学严谨介绍，将 GANs 框架化为通过生成器网络 ν 近似数据分布 μ 的方法，其目标是模仿 μ 的密度。文章强调通过极小化极大优化问题实现的对抗训练过程，并在分布近似与生成建模原理方面对比了 GANs 与变分自编码器（VAEs）。

ABSTRACT

Generative Adversarial Nets (GAN) have received considerable attention since the 2014 groundbreaking work by Goodfellow et al. Such attention has led to an explosion in new ideas, techniques and applications of GANs. To better understand GANs we need to understand the mathematical foundation behind them. This paper attempts to provide an overview of GANs from a mathematical point of view. Many students in mathematics may find the papers on GANs more difficulty to fully understand because most of them are written from computer science and engineer point of view. The aim of this paper is to give more mathematically oriented students an introduction to GANs in a language that is more familiar to them.

研究动机与目标

• 为数学领域的学生和研究人员提供一个基于数学基础的 GANs 介绍，弥合现有以计算机科学/工程为重点的 GAN 文献与数学形式化之间的鸿沟。
• 将生成建模问题形式化为从有限样本中学习概率分布 μ，目标是通过生成器分布 ν 近似 μ。
• 阐明‘相似对象’的概念并非通过距离度量，而是通过分布相似性，即 ν 应在统计散度意义下接近 μ。
• 对比 GANs 与变分自编码器（VAEs），突出二者在生成机制、损失函数设计及底层概率假设方面的差异。
• 证明数据分布 μ 的绝对连续性（密度存在性）假设并非 GAN 框架中的本质限制，可在该框架中被放宽。

提出的方法

• 将 GAN 框架形式化为极小化极大优化问题：min_G max_D V(D, G) = E_{x~μ}[log D(x)] + E_{z~p_z}[log(1 - D(G(z))). 其中 D 为判别器，G 为生成器。
• 将训练数据集 X ⊂ ℝⁿ 定义为来自具有密度 p(x) 的概率分布 μ 的有限样本，并旨在学习一个具有密度 q(x) 的生成器 ν，以近似 μ。
• 通过 f-散度（特别是 Jensen-Shannon 散度）引入分布相似性的概念，GANs 通过对抗训练旨在最小化该散度。
• 解释 VAE 中用于通过随机潜在变量实现反向传播的重参数化技巧，从而实现编码器与解码器的端到端训练。
• 将 VAE 损失函数表示为重构误差（MSE 或 BCE）与学习到的潜在分布和标准正态先验之间 KL 散度之和。
• 利用两个多元正态分布之间 KL 散度的显式公式，计算 VAE 目标函数中的正则化项，从而实现可微训练。

实验结果

研究问题

• RQ1 我们如何数学形式化生成与给定训练数据点集‘相似’的新数据的问题？
• RQ2 在 GAN 框架中，判别器与生成器各自扮演什么角色？它们的对抗性交互如何促成分布近似？
• RQ3 尽管存在模式崩溃等潜在问题，为何数据分布 μ 的绝对连续性假设在 GAN 中并非根本性限制？
• RQ4 VAE 框架与 GAN 在生成建模方法上存在哪些差异，特别是在优化目标与潜在变量建模方面？
• RQ5 VAE 使用重参数化技巧与 KL 散度正则化的数学基础是什么，其如何支持自编码器组件的训练？

主要发现

• GAN 框架可严格表述为生成器与判别器之间的极小化极大博弈，当满足弱条件时，最优生成器分布 ν 会收敛至真实数据分布 μ。
• 本文表明，μ 具有密度（即绝对连续性）的要求并非 GAN 框架的本质限制，因为对抗机制仍可近似奇异或低维分布。
• VAEs 通过最小化结合重构误差与近似后验分布和标准正态先验之间 KL 散度的损失函数实现生成建模，借助重参数化技巧实现可微训练。
• VAE 损失函数被显式推导为 L_VAE = L₁(μ,σ,G) + λ·L₂(μ,σ)，其中 L₁ 为期望重构误差，L₂ 为具有高斯分布闭式表达式的 KL 散度项。
• 重参数化技巧通过将 z = μ(x) + σ(x) ⊙ ε（其中 ε ~ N(0,1)）表达随机潜在变量，使损失函数中的期望可微。
• 尽管训练目标存在差异，GANs 与 VAEs 均旨在学习一个潜在表征，以生成在统计上与训练数据相似的新数据样本。