[论文解读] AdversarialNAS: Adversarial Neural Architecture Search for GANs

Chen Gao, Yunpeng Chen+3 more|arXiv (Cornell University)|Dec 4, 2019

Advanced Neural Network Applications参考文献 53被引用 13

一句话总结

AdversarialNAS 是一种用于 GAN 的可微分、基于梯度的神经架构搜索方法，通过对抗性搜索机制联合优化生成器和判别器架构，无需使用 FID 或 IS 等昂贵的评估指标。其在 $10^{38}$ 的大规模搜索空间中仅用 1 个 GPU 天即实现 SOTA 性能，在 CIFAR-10 上取得 10.87 的 FID 和 8.74 的 Inception Score。

ABSTRACT

Neural Architecture Search (NAS) that aims to automate the procedure of architecture design has achieved promising results in many computer vision fields. In this paper, we propose an AdversarialNAS method specially tailored for Generative Adversarial Networks (GANs) to search for a superior generative model on the task of unconditional image generation. The AdversarialNAS is the first method that can search the architectures of generator and discriminator simultaneously in a differentiable manner. During searching, the designed adversarial search algorithm does not need to comput any extra metric to evaluate the performance of the searched architecture, and the search paradigm considers the relevance between the two network architectures and improves their mutual balance. Therefore, AdversarialNAS is very efficient and only takes 1 GPU day to search for a superior generative model in the proposed large search space ($10^{38}$). Experiments demonstrate the effectiveness and superiority of our method. The discovered generative model sets a new state-of-the-art FID score of $10.87$ and highly competitive Inception Score of $8.74$ on CIFAR-10. Its transferability is also proven by setting new state-of-the-art FID score of $26.98$ and Inception score of $9.63$ on STL-10. Code is at: \url{https://github.com/chengaopro/AdversarialNAS}.

研究动机与目标

• 为解决现有 GAN NAS 方法在效率低下和架构失衡方面的问题，这些方法依赖于 FID 或 IS 等昂贵指标作为奖励信号。
• 通过使用判别器本身作为可微分的监督信号，消除对强化学习及昂贵指标计算的需求。
• 通过动态地以对抗方式共同搜索生成器和判别器架构，提升两者之间的相互平衡。
• 实现高效、可扩展且可迁移的无条件图像生成 GAN 架构发现。

提出的方法

• 设计一个大规模、连续的 GAN 架构搜索空间（$10^{38}$），通过连续变量参数化，以支持可微分搜索。
• 利用判别器的真假损失作为梯度信号，通过随机梯度下降更新生成器的架构参数。
• 通过生成器的损失同时更新判别器的架构，实现通过对抗反馈实现相互改进。
• 实施一种交替搜索策略，在搜索过程中以竞争性对抗循环的方式更新生成器和判别器架构。
• 将搜索过程直接集成到 GAN 训练流程中，避免单独的训练与评估周期。
• 利用判别器内部梯度作为性能评估的代理，绕过对外部指标（如 FID 或 IS）的需求。

实验结果

研究问题

• RQ1 能否设计一种针对 GAN 的可微分、基于梯度的 NAS 方法，在搜索过程中避免昂贵的指标计算？
• RQ2 与固定判别器方法相比，通过对抗方式联合搜索生成器和判别器架构在性能与稳定性方面有何提升？
• RQ3 所发现的架构在不同数据集之间（如从 CIFAR-10 到 STL-10）的泛化能力如何？
• RQ4 当判别器固定时，所搜索架构在模型容量扩展下的鲁棒性如何，尤其在性能退化方面？
• RQ5 对抗性搜索机制是否能带来更优的架构平衡与更高质量的生成样本，优于手工设计或强化学习方法的 NAS？

主要发现

• AdversarialNAS 在 CIFAR-10 上实现 SOTA 的 FID 得分 10.87 和 Inception Score 8.74，优于所有先前的手动设计与自动发现方法。
• 在 STL-10 上，该方法创下新的 SOTA FID（26.98）和 Inception Score（9.63），展现出强大的可迁移性。
• 搜索过程极为高效，仅用 1 个 GPU 天即可在 $10^{38}$ 规模的搜索空间中发现性能优越的架构。
• 所发现的生成器在广泛模型尺寸范围（1 MB 至 25 MB）内保持稳定性能，相比 SNGAN 和 AutoGAN 展现出更优的可扩展性与鲁棒性。
• 当判别器固定时，随着生成器规模扩大，性能显著下降；而 AdversarialNAS 保持一致的性能表现，表明其具有更优的架构平衡。
• 消融实验证实，对抗性联合搜索机制显著优于固定判别器或单架构搜索策略。