[论文解读] Stackelberg GAN: Towards Provable Minimax Equilibrium via Multi-Generator Architectures

Hongyang Zhang, Susu Xu+4 more|arXiv (Cornell University)|Nov 19, 2018

Advanced Neural Network Applications参考文献 20被引用 18

一句话总结

本文提出Stackelberg GAN，一种受Stackelberg博弈理论启发的多生成器GAN架构，其中多个生成器作为竞争者，对抗单一的判别器领导者。通过将Shapley-Folkman引理的新型应用扩展至通用极小极大问题，该方法在$ widetilde{ mathcal{O}}(1/\epsilon)$个生成器下，将极小极大对偶间隙严格减少至$ epsilon$，优于先前$ widetilde{ mathcal{O}}(1/\epsilon^2)$的界，同时在基准数据集上实现了14.61%的FID性能提升。

ABSTRACT

We study the problem of alleviating the instability issue in the GAN training procedure via new architecture design. The discrepancy between the minimax and maximin objective values could serve as a proxy for the difficulties that the alternating gradient descent encounters in the optimization of GANs. In this work, we give new results on the benefits of multi-generator architecture of GANs. We show that the minimax gap shrinks to $ε$ as the number of generators increases with rate $\widetilde{O}(1/ε)$. This improves over the best-known result of $\widetilde{O}(1/ε^2)$. At the core of our techniques is a novel application of Shapley-Folkman lemma to the generic minimax problem, where in the literature the technique was only known to work when the objective function is restricted to the Lagrangian function of a constraint optimization problem. Our proposed Stackelberg GAN performs well experimentally in both synthetic and real-world datasets, improving Fréchet Inception Distance by $14.61\%$ over the previous multi-generator GANs on the benchmark datasets.

研究动机与目标

• 解决由于极小极大目标值与极大极小目标值之间显著差异而导致的GAN训练不稳定性问题。
• 设计一种可证明稳定的GAN架构，通过多生成器集成减少极小极大对偶间隙。
• 在不假设无限模型容量或共享参数的前提下，为多生成器GAN提供理论保证。
• 相较于现有的多生成器GAN（如MIX+GAN和MGAN），提升训练稳定性和生成性能。
• 建立Stackelberg博弈理论与GAN架构设计之间的正式联系。

提出的方法

• 提出一种Stackelberg GAN框架，其中多个生成器（跟随者）共同优化以对抗单一判别器（领导者），灵感源自博弈论中的Stackelberg领导模型。
• 将Shapley-Folkman引理的新型扩展应用于通用极小极大问题，使非凸设置下极小极大间隙的理论分析成为可能。
• 采用生成器损失的等权重集成，不使用学习或正则化的权重，依赖于各生成器自身的容量实现隐式缩放。
• 采用标准GAN训练流程，通过交替梯度下降进行优化，但并行训练多个生成器以提升分布覆盖能力。
• 设计一种训练协议：每个生成器独立采样，判别器评估所有生成器输出的综合结果。
• 采用标准网络架构（如全连接层、转置卷积层）及ReLU、Leaky ReLU、Sigmoid/Tanh激活函数，使用Adam优化器进行训练。

实验结果

研究问题

• RQ1 多生成器GAN架构是否能比现有方法更高效地减少极小极大对偶间隙？
• RQ2 在不假设共享参数或无限容量的前提下，是否会影响多生成器GAN的收敛性与稳定性？
• RQ3 Shapley-Folkman引理能否扩展至非拉格朗日形式的通用极小极大问题，以提供可证明的保证？
• RQ4 在非凸GAN训练中，生成器数量如何影响极小极大间隙？
• RQ5 所提出的架构是否能在无需额外正则化或学习集成权重的情况下，实现优于先前多生成器GAN的FID得分？

主要发现

• 在Stackelberg GAN中，极小极大对偶间隙可随$\widetilde{\mathcal{O}}(1/\epsilon)$个生成器减少至$\epsilon$，优于先前$\widetilde{\mathcal{O}}(1/\epsilon^2)$的界。
• 在对生成器容量附加合理假设的前提下，该方法可在$\widetilde{\mathcal{O}}(1/\epsilon)$个生成器下实现$\epsilon$-近似均衡，表明样本复杂度得到提升。
• 所提方法在CIFAR-10和Fashion-MNIST等基准数据集上，相较于先前的多生成器GAN，将Fréchet Inception Distance（FID）提升了14.61%。
• 在合成数据集和真实世界数据集上的实验表明，Stackelberg GAN实现了更稳定的训练过程，并生成了多样化且高质量的样本，且每个生成器均产生独特样本。
• 理论分析具有普适性，无需共享参数、无限容量或拉格朗日形式目标，因此可适用于标准GAN、Wasserstein GAN及其他变体。
• 该框架在MNIST、Fashion-MNIST、CIFAR-10和Tiny ImageNet上均得到实验验证，结果表明其在多种数据分布下均表现出一致的性能提升。