[论文解读] Unsupervised and Semi-supervised Learning with Categorical Generative Adversarial Networks

Jost Tobias Springenberg|arXiv (Cornell University)|Nov 19, 2015

Digital Media Forensic Detection被引用 397

一句话总结

本文提出了类别生成对抗网络（CatGAN），一种用于无监督和半监督图像分类的方法，通过联合训练判别分类器与对抗生成器实现。通过在输入与预测类别分布之间最大化互信息，同时增强对对抗样本的鲁棒性，CatGAN 在仅使用每类 400 个标注样本的情况下，在 CIFAR-10 上实现了 19.58% 的错误率，达到当前最优性能，并生成了高保真度图像。

ABSTRACT

In this paper we present a method for learning a discriminative classifier from unlabeled or partially labeled data. Our approach is based on an objective function that trades-off mutual information between observed examples and their predicted categorical class distribution, against robustness of the classifier to an adversarial generative model. The resulting algorithm can either be interpreted as a natural generalization of the generative adversarial networks (GAN) framework or as an extension of the regularized information maximization (RIM) framework to robust classification against an optimal adversary. We empirically evaluate our method - which we dub categorical generative adversarial networks (or CatGAN) - on synthetic data as well as on challenging image classification tasks, demonstrating the robustness of the learned classifiers. We further qualitatively assess the fidelity of samples generated by the adversarial generator that is learned alongside the discriminative classifier, and identify links between the CatGAN objective and discriminative clustering algorithms (such as RIM).

研究动机与目标

• 开发一个统一的无监督与半监督学习框架，将生成建模与判别分类相结合。
• 通过在训练过程中强制模型对对抗样本保持鲁棒性，提升深度神经网络分类器的泛化能力。
• 通过互信息最大化利用未标注数据，实现在有限标注数据下的有效学习。
• 探索对抗训练与判别聚类方法（如正则化信息最大化，RIM）之间的联系。
• 在 MNIST 和 CIFAR-10 等标准基准上评估生成样本的保真度及分类器性能。

提出的方法

• 该方法提出了一种新颖的目标函数，在输入数据与预测类别分布之间的互信息与分类器对对抗样本的鲁棒性之间进行权衡。
• 通过在生成对抗网络（GAN）框架中引入一个判别分类器 D，用于预测类别概率分布，同时训练一个生成器 G 来生成对抗样本以挑战 D。
• 分类器被优化以最大化输入 X 与预测标签 Y 之间的互信息 I(X; Y|D)，从而促进解耦且信息丰富的表征学习。
• 生成器被训练以生成能欺骗分类器的逼真样本，从而通过正则化防止 D 过度拟合于虚假特征。
• 该框架通过利用未标注数据提升泛化能力，支持无监督（无标签）与半监督（少量标签）学习。
• 该方法在合成数据、MNIST 和 CIFAR-10 上进行了实证验证，并通过消融研究分析了对抗正则化与标签效率的影响。

实验结果

研究问题

• RQ1 对抗训练是否能提升深度神经网络分类器在半监督学习中的鲁棒性与泛化能力？
• RQ2 在缺乏完整监督的情况下，最大化输入与预测类别分布之间的互信息在表征学习中起到何种作用？
• RQ3 联合训练的生成器在多大程度上能够生成反映底层数据分布的高保真度样本？
• RQ4 CatGAN 的目标函数与现有判别聚类方法（如正则化信息最大化，RIM）之间存在何种关系？
• RQ5 当仅提供少量标注样本时，CatGAN 在标准图像分类基准上的性能如何？

主要发现

• 在 CIFAR-10 上使用每类 400 个标注样本时，CatGAN 的测试错误率为 19.58%（±0.58），优于多个基线模型，包括 Conv-Ladder 和标准 GAN。
• 在全监督设置下，CatGAN 的测试错误率为 23.4%（±0.2），与当前最优方法（如 Conv-CatGAN 和 Conv-Ladder）相当。
• 无监督的 CatGAN 模型在 MNIST、CIFAR-10 和 LFW 上生成了高保真度图像，经图 3 的定性视觉检查确认。
• 在 MNIST 上，模型的对数似然达到 237 ± 6，与 Goodfellow 等人（2014）报告的标准 GAN 的 225 ± 2 相当，尽管由于估计偏差，对数似然比较需谨慎对待。
• 当移除生成器并应用 L2 正则化时，该方法等价于正则化信息最大化（RIM），证实了其与判别聚类方法的理论联系。
• 对抗生成器显著提升了分类器的鲁棒性，在作者的实验中，L2 正则化未进一步提升性能，无明显增益。