[论文解读] Meta-Learning Initializations for Image Segmentation

Sean M. Hendryx, Andrew Leach+2 more|arXiv (Cornell University)|Dec 13, 2019

Domain Adaptation and Few-Shot Learning参考文献 37被引用 6

一句话总结

该论文通过引入专为快速适应优化的新型神经网络架构EfficientLab，将一阶模型无关元学习（FOMAML和Reptile）扩展至少样本图像分割任务。通过贝叶斯优化在元训练后对推理时适应过程的超参数进行调优，该方法在FSS-1000数据集上实现了最先进性能，同时表明元学习初始化在超过10个标注样本时可媲美传统迁移学习。

ABSTRACT

We extend first-order model agnostic meta-learning algorithms (including FOMAML and Reptile) to image segmentation, present a novel neural network architecture built for fast learning which we call EfficientLab, and leverage a formal definition of the test error of meta-learning algorithms to decrease error on out of distribution tasks. We show state of the art results on the FSS-1000 dataset by meta-training EfficientLab with FOMAML and using Bayesian optimization to infer the optimal test-time adaptation routine hyperparameters. We also construct a small benchmark dataset, FP-k, for the empirical study of how meta-learning systems perform in both few- and many-shot settings. On the FP-k dataset, we show that meta-learned initializations provide value for canonical few-shot image segmentation but their performance is quickly matched by conventional transfer learning with performance being equal beyond 10 labeled examples. Our code, meta-learned model, and the FP-k dataset are available at https://github.com/ml4ai/mliis .

研究动机与目标

• 探究一阶MAML类算法是否能有效扩展至高维、分布倾斜的参数空间的密集预测任务（如语义图像分割）。
• 评估元学习初始化性能对推理时适应过程超参数的敏感性。
• 确定在多少个标注样本之后，常规微调会超越元学习初始化在少样本分割中的表现。
• 构建一个新的基准数据集FP-k，用于在少样本与多样本场景下对元学习性能进行实证分析。
• 提供一个统一的学习系统，可从少样本扩展至多样本设置，而无需多个模型或复杂集成。

提出的方法

• 提出EfficientLab，一种轻量化、快速学习的神经网络架构，专为图像分割中的高效元学习而设计。
• 将一阶MAML和Reptile算法适配至语义分割的高维、密集输出设置。
• 采用贝叶斯优化在元训练后搜索推理时适应过程（学习率、早停耐心度）的最优超参数。
• 提出元学习中测试误差的正式定义，以指导适应过程的优化。
• 构建FP-k基准数据集，包含5个任务，每个任务有420个标注样本，用于评估在少样本与多样本场景下的性能。
• 采用带有学习统计量和总体估计的批量归一化，与标准大规模数据训练保持一致，以提升泛化能力。

实验结果

研究问题

• RQ1 一阶MAML类算法是否能有效扩展至少样本图像分割中高维参数空间和分布倾斜的数据？
• RQ2 推理时元学习初始化的性能对适应过程超参数的敏感度如何？
• RQ3 在分割准确率方面，使用SGD的常规微调在多少个样本后会超越元学习初始化？
• RQ4 单一元学习初始化是否能有效泛化至少样本与多样本设置？
• RQ5 是否存在一种能优化泛化能力的适应过程配置？该配置是否与元训练时使用的不同？

主要发现

• 所提出的EfficientLab模型结合FOMAML元训练与贝叶斯优化的适应超参数，在FSS-1000数据集上实现了最先进平均IoU性能。
• 当每类标注样本少于10个时，元学习初始化优于ImageNet和联合训练初始化。
• 当每类有10个或更多标注样本时，元学习初始化的性能与或超过传统迁移学习方法。
• 推理时适应过程的最优超参数（如学习率、早停耐心度）与元训练时使用的不同，表明需独立优化。
• 研究发现，推理时适应过程的超参数对性能影响极大，其中早停耐心度对分布外泛化尤为关键。
• 理论与实证分析表明，MAML类算法可最小化固定更新流程的期望风险，但本身并不优化该流程的超参数。