[论文解读] Improved Semi-supervised Learning with GANs using Manifold Invariances

Abhishek Kumar, Prasanna Sattigeri+1 more|arXiv (Cornell University)|Jan 1, 2017

Generative Adversarial Networks and Image Synthesis被引用 5

一句话总结

本文提出了一种新颖的半监督学习框架，利用生成对抗网络（GANs）通过数据流形的切空间注入不变性，从而在标注数据有限的情况下提升分类器的泛化能力。通过改进编码器以实现更优的语义重建，并战略性地利用生成样本，该方法在SVHN和CIFAR-10数据集上实现了最先进性能，尤其在低标签设置下表现突出。

ABSTRACT

Semi-supervised learning methods using Generative adversarial networks (GANs) have shown promising empirical success recently. Most of these methods use a shared discriminator/classifier which discriminates real examples from fake and also predicts the class label. Motivated by the ability of GANs to capture the data manifold well, we propose to estimate the tangent space to the data manifold using GANs and use it to inject invariances into the classifier. In the process, we propose improvements over existing methods for learning the inverse mapping (i.e., the encoder) \cite{donahue2016adversarial} which greatly improve in terms of semantic similarity of reconstructed sample to the input sample. We experiment with SVHN and CIFAR-10 for semi-supervised learning, obtaining significant improvements over baselines, particularly in the cases when the number of labeled examples is low. We also provide insights into how fake examples influence the semi-supervised learning procedure.

研究动机与目标

• 通过利用数据流形的几何结构，提升在低数据量场景下的半监督学习性能。
• 通过改进生成对抗网络中逆映射（编码器）的设计，提升潜在空间的重建质量。
• 将基于流形的不变性注入分类器，以增强模型的鲁棒性与泛化能力。
• 分析生成样本在半监督训练过程中的作用。
• 在SVHN和CIFAR-10等基准数据集上，以极少的标注数据实现最先进性能。

提出的方法

• 该方法利用训练好的GAN估计数据流形的切空间，以指导不变表示的学习。
• 改进了先前工作（如Donahue等）中的编码器网络，使其生成的重建样本与输入具有更高的语义相似性。
• 使用共享判别器来区分真实样本与生成样本，同时预测类别标签。
• 通过鼓励分类器对数据流形切空间方向上的扰动保持一致预测，实现不变性的注入。
• 在训练过程中同时利用真实样本与生成（虚假）样本，并对生成样本如何影响学习动态进行了细致分析。
• 该方法结合对抗训练与流形正则化，以提升半监督设置下的泛化性能。

实验结果

研究问题

• RQ1 如何有效利用数据流形的几何结构来提升半监督学习性能？
• RQ2 改进的编码器架构在多大程度上提升了语义重建质量与下游分类性能？
• RQ3 由GAN生成的虚假样本在多大程度上影响了分类器的泛化性能？
• RQ4 基于切空间的不变性是否能在低标注数据场景下带来更鲁棒、更泛化的表示？
• RQ5 流形不变性与标准GAN训练相比，在提升半监督准确率方面各自贡献如何？

主要发现

• 所提方法在SVHN和CIFAR-10数据集上显著优于现有的半监督GAN基线模型，尤其在标注数据稀缺时表现更优。
• 改进的编码器生成的重建样本在语义上更接近原始输入，表明其具有更好的解耦能力与表示质量。
• 通过注入切空间不变性，模型在小扰动下预测更加鲁棒，显著提升了泛化能力。
• 当经过适当正则化后，生成样本对学习过程有积极贡献，尤其在低标注数据场景下。
• 该方法在标准基准数据集上实现了最先进性能，在少样本学习设置下优于先前方法。
• 消融实验验证了改进的重建质量与流形不变性对性能提升均至关重要。