[论文解读] Learning to learn via Self-Critique

Antreas Antoniou, Amos Storkey|arXiv (Cornell University)|May 24, 2019

Domain Adaptation and Few-Shot Learning参考文献 29被引用 11

一句话总结

本文提出 Self-Critique and Adapt (SCA)，一种归纳元学习框架，通过使用评论网络学习无标签损失函数，在未标记的目标集数据上优化模型权重，从而提升少样本学习性能。SCA 利用来自支持集和目标集的模型预测结果以及关系特征，在 Mini-ImageNet 和 CUB 数据集上实现最先进性能，相比基线方法将错误率降低了超过 4 个百分点。

ABSTRACT

In few-shot learning, a machine learning system learns from a small set of labelled examples relating to a specific task, such that it can generalize to new examples of the same task. Given the limited availability of labelled examples in such tasks, we wish to make use of all the information we can. Usually a model learns task-specific information from a small training-set (support-set) to predict on an unlabelled validation set (target-set). The target-set contains additional task-specific information which is not utilized by existing few-shot learning methods. Making use of the target-set examples via transductive learning requires approaches beyond the current methods; at inference time, the target-set contains only unlabelled input data-points, and so discriminative learning cannot be used. In this paper, we propose a framework called Self-Critique and Adapt or SCA, which learns to learn a label-free loss function, parameterized as a neural network. A base-model learns on a support-set using existing methods (e.g. stochastic gradient descent combined with the cross-entropy loss), and then is updated for the incoming target-task using the learnt loss function. This label-free loss function is itself optimized such that the learnt model achieves higher generalization performance. Experiments demonstrate that SCA offers substantially reduced error-rates compared to baselines which only adapt on the support-set, and results in state of the art benchmark performance on Mini-ImageNet and Caltech-UCSD Birds 200.

研究动机与目标

• 为了解决现有少样本元学习方法在推理过程中仅利用标记支持集数据的局限性。
• 使元学习模型能够通过引入未标记目标集样本的无监督信息来提升泛化能力。
• 开发一种通用、即插即用的框架，兼容基于梯度和非基于梯度的元学习方法。
• 学习一个评论网络，生成无标签损失函数，以在推理阶段指导目标集上的模型更新。
• 证明利用目标集输入进行归纳适应可显著提升少样本分类准确率。

提出的方法

• 一个参数为 W 的评论网络 C 被训练，以基于基础模型从目标集提取的特征输出损失信号。
• 评论网络将目标集上的模型预测结果、任务关系嵌入以及支持-目标关系网络作为输入，生成无标签损失。
• 该学习到的损失用于计算梯度，并在未标记的目标集上更新基础模型参数 θN 至 θN+I，实现归纳适应。
• 评论网络和基础模型在外部循环中联合训练，使用目标集标签的标准分类损失来优化 θ0 和 W。
• 通过在训练后添加评论模块，该方法可兼容任何元学习框架，包括 MAML 和 Matching Networks。
• 推理过程通过首先使用评论网络的损失在目标集上更新基础模型，然后在目标集上进行预测来完成。

实验结果

研究问题

• RQ1 元学习模型是否能在推理过程中从未标记的目标集数据中获益，而不仅仅是依赖于标记支持集所学的信息？
• RQ2 神经网络能否学习到一种有意义的无标签损失函数，以改善少样本任务上的模型泛化能力？
• RQ3 基于评论网络的损失进行归纳适应是否能在多种少样本基准上带来一致的性能提升？
• RQ4 哪些输入特征对评论网络生成有效的损失信号最为关键？
• RQ5 所提出的方法是否可无缝集成到多种元学习架构中，而无需修改网络结构？

主要发现

• 在 5 类 1 样本的 Mini-ImageNet 基准上，SCA 达到 62.86% ± 0.79% 的新最先进准确率，相比之前最先进方法提升超过 4 个百分点。
• 在 5 类 5 样本的 Mini-ImageNet 任务上，SCA 达到 85.63% ± 0.66%，创下新的最先进结果。
• 与基线 MAML++ 相比，SCA 在 CUB 数据集上所有样本设置下的平均准确率提升 4.05 个百分点。
• 评论网络学会关注模型预测结果以及支持集与目标集之间的关系特征，这些特征对有效适应至关重要。
• SCA 在低样本和高样本设置下均持续提升性能，展现出强大鲁棒性与泛化能力。
• 即使应用于非基于梯度的元学习模型（如 Matching Networks），该方法依然有效，表明其具有广泛的兼容性。