[论文解读] Banach Wasserstein GAN

Jonas Adler, Sebastian Lunz|arXiv (Cornell University)|Jun 18, 2018

Geophysical Methods and Applications参考文献 17被引用 33

一句话总结

本文提出巴拿赫 Wasserstein GAN（BWGAN），将带有梯度惩罚的 WGAN 扩展至任意可分巴拿赫空间，用任意对偶范数替代标准的 ℓ² 范数，以突出特定图像特征。在 CIFAR-10 上使用 L¹⁰ 范数时，实现了 SOTA 的 inception 分数（8.31 ± 0.07），表明范数选择对生成性能的影响远超 ℓ² 范数。

ABSTRACT

Wasserstein Generative Adversarial Networks (WGANs) can be used to generate realistic samples from complicated image distributions. The Wasserstein metric used in WGANs is based on a notion of distance between individual images, which induces a notion of distance between probability distributions of images. So far the community has considered $\ell^2$ as the underlying distance. We generalize the theory of WGAN with gradient penalty to Banach spaces, allowing practitioners to select the features to emphasize in the generator. We further discuss the effect of some particular choices of underlying norms, focusing on Sobolev norms. Finally, we demonstrate a boost in performance for an appropriate choice of norm on CIFAR-10 and CelebA.

研究动机与目标

• 将带有梯度惩罚的 WGAN 扩展至任意巴拿赫空间，超越 ℓ² 范数。
• 使实践者能够选择强调特定图像特征（如边缘或大尺度结构）的范数。
• 为非 ℓ² 设置下的正则化参数选择提供理论与实践指导。
• 通过实证验证范数选择对标准基准（如 CIFAR-10 和 CelebA）上 GAN 性能的影响。
• 证明非 ℓ² 范数可在非渐进式 GAN 中实现 SOTA 性能。

提出的方法

• 通过在梯度惩罚项中用对偶范数替代 ℓ² 范数，将带有梯度惩罚的 WGAN 推广至任意可分巴拿赫空间。
• 基于判别器梯度的对偶范数，推导出理论梯度惩罚条件，以确保 1-Lipschitz 约束。
• 利用 Kantorovich-Rubinstein 对偶性，将 Wasserstein 距离表示为所选巴拿赫空间上有界利普希茨函数的表达式。
• 采用 Sobolev 空间 W^{s,p} 和 L^p 空间作为具体范数选择，以控制生成图像中的特征强调。
• 以最小的架构改动实现该方法：仅替换梯度惩罚中的范数，保持标准 WGAN 的训练动态。
• 基于对偶范数和期望的特征强调，提供正则化参数选择的启发式方法。

实验结果

研究问题

• RQ1 能否将带有梯度惩罚的 WGAN 推广至任意巴拿赫空间，而不仅限于 ℓ² 范数？
• RQ2 底层范数的选择如何影响 GAN 生成图像的质量与特性？
• RQ3 在 GAN 训练中使用 Sobolev 或 L^p 范数而非 ℓ² 范数，其理论与实际影响为何？
• RQ4 非 ℓ² 范数能否在标准基准（如 CIFAR-10 和 CelebA）上实现 SOTA 性能？
• RQ5 不同范数选择与图像生成中 FID 和 inception 分数之间有何相关性？

主要发现

• BWGAN 在 CIFAR-10 上使用 L¹⁰ 范数时，inception 分数达到 8.31 ± 0.07，为非渐进式生长 GAN 的 SOTA 结果。
• 在 CIFAR-10 上，L⁴ 范数的 FID 得分为 16.43，表现出具有竞争力的性能。
• 对于 Sobolev 空间 W^{s,2}，CIFAR-10 上的最优性能出现在负的 s 值，表明对低频内容的强调。
• 在 CelebA 上，s 在 -1 到 0 之间且 p ≈ 0 时 FID 表现最佳，而 p = 10 导致训练不稳定。
• 即使使用相同的生成器架构，该方法在性能上仍优于标准 WGAN，表明其具有更优的超参数调优能力。
• 结果表明，范数选择是 GAN 设计中一个强大但尚未被充分利用的自由度，对图像质量和特征强调具有显著影响。