[论文解读] Unsupervised Meta-Learning through Latent-Space Interpolation in Generative Models

Siavash Khodadadeh, Sharare Zehtabian+4 more|arXiv (Cornell University)|Jun 17, 2020

Domain Adaptation and Few-Shot Learning参考文献 30被引用 7

一句话总结

该论文提出LASIUM，一种无监督元学习框架，通过在预训练生成模型（VAEs和GANs）的潜在空间中插值，生成合成的少样本分类任务。通过采样潜在向量，在接近现有样本处进行插值以生成类内配对，通过远距离潜在码生成类间配对，LASIUM在Omniglot和CelebA基准上实现了最先进性能，优于现有无监督方法，并在极少领域特定调优下接近有监督基线。

ABSTRACT

Unsupervised meta-learning approaches rely on synthetic meta-tasks that are created using techniques such as random selection, clustering and/or augmentation. Unfortunately, clustering and augmentation are domain-dependent, and thus they require either manual tweaking or expensive learning. In this work, we describe an approach that generates meta-tasks using generative models. A critical component is a novel approach of sampling from the latent space that generates objects grouped into synthetic classes forming the training and validation data of a meta-task. We find that the proposed approach, LAtent Space Interpolation Unsupervised Meta-learning (LASIUM), outperforms or is competitive with current unsupervised learning baselines on few-shot classification tasks on the most widely used benchmark datasets. In addition, the approach promises to be applicable without manual tweaking over a wider range of domains than previous approaches.

研究动机与目标

• 解决现有无监督元学习方法依赖领域特定聚类或增强技术且需手动调优的局限性。
• 开发一种可泛化、低定制化的合成元任务生成方法，利用预训练生成模型。
• 通过利用VAEs和GANs潜在空间的结构特性，实现在无标签数据下有效的少样本分类。
• 证明潜在空间插值可生成高质量的类内与类间配对以用于元学习。
• 在元训练过程中无需标签数据，实现在标准少样本基准上的竞争力表现。

提出的方法

• 利用预训练的VAEs和GANs（包括MSGAN和Progressive GAN）将输入数据编码到解耦的潜在空间。
• 通过在两个远距离潜在码之间插值，并选择靠近其中一个端点的插值点，生成类内配对，形成新的相似样本。
• 将类间配对定义为潜在空间距离较大的样本，确保它们不太可能属于同一类别。
• 通过将插值样本分组为合成类别，并使用远距离配对作为类间样本，构建元任务。
• 在合成任务上应用元学习算法（MAML和ProtoNets），使用生成数据作为支持集和查询集。
• 调整超参数（如潜在距离阈值和插值比例），以控制类别分离度和类内相似性。

实验结果

研究问题

• RQ1 在预训练生成模型的潜在空间中进行插值，能否可靠地生成用于少样本元学习的合成类内与类间配对？
• RQ2 LASIUM在标准少样本基准上与现有无监督元学习基线（如CACTUS、UMTRA和AAL）相比表现如何？
• RQ3 LASIUM在无需手动调优增强或聚类策略的情况下，其泛化能力在不同领域间如何？
• RQ4 LASIUM的合成任务生成是否优于随机采样或基于聚类的方法，带来更好的少样本泛化能力？
• RQ5 LASIUM的性能对超参数（如插值比例和潜在距离阈值）的敏感程度如何？

主要发现

• 在Omniglot数据集上，LASIUM在所有无监督元学习基线中表现最优，使用GAN-MAML达到77.16%准确率，使用VAE-MAML在LASIUM-N策略下达到75.02%。
• 在CelebA身份识别任务中，LASIUM使用GAN-MAML达到69.13%准确率，优于CACTUS（66.91%），并接近有监督性能（75.54%）。
• 在mini-ImageNet上，5-way、1-shot学习设置下，LASIUM-N-GAN-MAML达到65.17%准确率，超过CACTUS和其他无监督方法。
• 消融研究显示，LASIUM-RO（随机偏移）和LASIUM-OC（类间）策略在各数据集上表现一致，其中LASIUM-RO在使用GAN-MAML时于Omniglot上达到77.62%准确率。
• LASIUM在所有基准上显著优于迁移学习，证明了合成任务生成相较于简单微调的价值。
• LASIUM在极少领域特定调优下取得具有竞争力的结果，仅依赖于可解释的超参数（如潜在距离阈值和插值比例）