[论文解读] How Well Do WGANs Estimate the Wasserstein Metric?

Anton Mallasto, Guido Montúfar+1 more|arXiv (Cornell University)|Oct 9, 2019

Generative Adversarial Networks and Image Synthesis参考文献 26被引用 17

一句话总结

本文评估了多种WGAN变体在使用对偶公式（特别是c-变换和(c,ε)-变换）时对1- Wasserstein距离的估计准确性，这些方法避免了显式的Lipschitz约束。尽管这些方法在 Wasserstein 距离估计上显著优于梯度惩罚或权重裁剪方法，但其生成的图像更模糊、真实性更低，揭示了实际应用中度量准确性与生成质量之间的脱节。

ABSTRACT

Generative modelling is often cast as minimizing a similarity measure between a data distribution and a model distribution. Recently, a popular choice for the similarity measure has been the Wasserstein metric, which can be expressed in the Kantorovich duality formulation as the optimum difference of the expected values of a potential function under the real data distribution and the model hypothesis. In practice, the potential is approximated with a neural network and is called the discriminator. Duality constraints on the function class of the discriminator are enforced approximately, and the expectations are estimated from samples. This gives at least three sources of errors: the approximated discriminator and constraints, the estimation of the expectation value, and the optimization required to find the optimal potential. In this work, we study how well the methods, that are used in generative adversarial networks to approximate the Wasserstein metric, perform. We consider, in particular, the $c$-transform formulation, which eliminates the need to enforce the constraints explicitly. We demonstrate that the $c$-transform allows for a more accurate estimation of the true Wasserstein metric from samples, but surprisingly, does not perform the best in the generative setting.

研究动机与目标

• 评估不同WGAN方法在估计数据分布与模型分布之间1-Wasserstein距离方面的准确性。
• 探究更精确的Wasserstein度量估计是否在实践中带来更好的生成图像质量。
• 比较c-变换、(c,ε)-变换、梯度惩罚和权重裁剪在不同训练与评估条件下估计Wasserstein距离的性能。
• 分析小批量大小和训练方案对距离估计稳定性及生成模型性能的影响。

提出的方法

• 采用c-变换公式在不显式施加判别器Lipschitz约束的前提下估计Wasserstein距离。
• (c,ε)-变换在c-变换基础上引入熵正则化，提升了样本复杂度和数值稳定性。
• 本研究对比了四种WGAN训练方案：梯度惩罚、权重裁剪、c-变换和(c,ε)-变换，采用小批量和全数据集评估方式。
• 通过将判别器输出与使用POT库计算的真值Wasserstein距离进行比较，衡量距离估计的准确性。
• 生成模型训练采用DCGAN架构在CelebA数据集上进行，距离度量在50,000次生成器迭代过程中被持续追踪。
• 在CIFAR-10和CelebA的子集上进行实验，采用不同小批量大小（N=64, 512），以评估泛化能力和稳定性。

实验结果

研究问题

• RQ1 不同WGAN变体在估计数据分布与模型分布之间真实1-Wasserstein距离方面有多准确？
• RQ2 在实践中，Wasserstein度量估计的改进是否带来更高质量的生成图像？
• RQ3 c-变换和(c,ε)-变换在距离估计准确性和训练稳定性方面与梯度惩罚和权重裁剪相比如何？
• RQ4 训练小批量大小和评估小批量大小对Wasserstein距离估计可靠性有何影响？
• RQ5 为何梯度惩罚方法尽管距离估计准确性较差，却能生成更优的生成结果？

主要发现

• c-变换和(c,ε)-变换方法在估计真实Wasserstein距离方面显著优于梯度惩罚和权重裁剪方法。
• 尽管度量估计更精确，c-变换和(c,ε)-变换生成的图像仍比梯度惩罚方法更模糊、真实性更低。
• 梯度惩罚方法虽然在Wasserstein距离估计上不够准确，但能生成质量更高、多样性更强且更清晰的图像。
• 权重裁剪虽在距离估计上表现出一定稳定性，但未能收敛到有意义的结果，且生成图像质量差。
• (c,ε)-变换在不同训练和评估小批量大小下展现出更优的稳定性，支持其更优的样本复杂度。
• c-变换方法产生的模糊现象并非源于熵正则化，而是c-变换公式本身所致。