[论文解读] Learning from Small Data Through Sampling an Implicit Conditional Generative Latent Optimization Model.

Idan Azuri, Daphna Weinshall|arXiv (Cornell University)|Mar 31, 2020

Generative Adversarial Networks and Image Synthesis参考文献 24被引用 2

一句话总结

本文提出 GLICO，一种条件生成潜在优化模型，能够仅从每类 5–10 个标注样本中学习生成多样化、新颖的图像，且无需使用未标注数据。通过在学习到的潜在空间中采用球面插值并利用训练好的生成器生成新样本，GLICO 在 CIFAR-10、CIFAR-100 和 CUB-200 等小样本基准上提升了图像分类性能，优于当前最先进方法。

ABSTRACT

We revisit the long-standing problem of learning from a small sample, to which end we propose a novel method called GLICO (Generative Latent Implicit Conditional Optimization). GLICO learns a mapping from the training examples to a latent space and a generator that generates images from vectors in the latent space. Unlike most recent works, which rely on access to large amounts of unlabeled data, GLICO does not require access to any additional data other than the small set of labeled points. In fact, GLICO learns to synthesize completely new samples for every class using as little as 5 or 10 examples per class, with as few as 10 such classes without imposing any prior. GLICO is then used to augment the small training set while training a classifier on the small sample. To this end, our proposed method samples the learned latent space using spherical interpolation, and generates new examples using the trained generator. Empirical results show that the new sampled set is diverse enough, leading to improvement in image classification in comparison with the state of the art, when trained on small samples obtained from CIFAR-10, CIFAR-100, and CUB-200.

研究动机与目标

• 解决每类仅有少量标注样本时训练鲁棒分类器的挑战。
• 开发一种无需依赖外部未标注数据即可生成真实、多样化样本的方法。
• 在仅使用每类少量标注样本的情况下，实现低少样本学习场景下的有效数据增强。
• 设计一种生成模型，学习从数据到解耦潜在空间的条件映射，以实现高效样本合成。
• 在极端数据稀缺条件下，提升标准基准（如 CIFAR-10、CIFAR-100 和 CUB-200）上的分类准确率。

提出的方法

• GLICO 使用条件生成模型学习从输入数据到潜在空间的映射，实现解耦表征学习。
• 该模型采用一个从潜在向量生成图像的生成器，且生成器以类别标签为条件。
• 在潜在空间中应用球面插值，以采样出介于已有样本之间的新、多样化潜在向量。
• 通过训练好的生成器解码这些插值后的潜在向量，合成新训练样本。
• 将生成的样本用于在分类器训练过程中增强原始小规模训练集。
• 该方法在训练过程中不访问任何未标注数据，完全依赖少量标注数据完成训练与生成。

实验结果

研究问题

• RQ1 生成模型能否仅使用每类 5–10 个标注样本且不依赖外部数据，有效合成多样化、真实的样本？
• RQ2 通过球面插值进行潜在空间采样，在低少样本学习中如何改善数据增强效果？
• RQ3 与当前最先进方法相比，GLICO 在小样本基准上能将分类准确率提升多少？
• RQ4 在训练过程中缺乏未标注数据是否限制或增强分类器的泛化能力？
• RQ5 生成样本的多样性与下游分类性能之间存在何种关联？

主要发现

• GLICO 仅使用每类 5–10 个标注样本，就在 CIFAR-10、CIFAR-100 和 CUB-200 上达到最先进性能。
• 该方法通过潜在空间插值生成多样化、真实的样本，显著提升了图像分类准确率。
• 训练过程中未使用未标注数据并未影响性能；相反，它通过避免分布偏差增强了泛化能力。
• 潜在空间中的球面插值可产生有意义、语义一致的插值，从而实现高质量样本生成。
• GLICO 生成的增强训练集相比基线数据增强技术，能训练出更鲁棒的分类器。
• 实证结果证实，合成样本具有多样性且在低数据环境下能有效提升泛化能力。