[论文解读] Function Contrastive Learning of Transferable Meta-Representations

Muhammad Waleed Gondal, Shruti Joshi+4 more|arXiv (Cornell University)|Oct 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 36被引用 4

一句话总结

本文提出函数对比表示学习（FCRL），一种解耦的编码器-解码器框架，通过在函数的无序、部分观测上使用对比目标来预训练元表示编码器。通过对比来自相同函数与不同函数的上下文集合，FCRL 学习到鲁棒且可迁移的元表示，在下游少样本预测和抗噪声能力方面优于端到端训练的基线模型，尤其在视觉和控制任务中表现更优。

ABSTRACT

Meta-learning algorithms adapt quickly to new tasks that are drawn from the same task distribution as the training tasks. The mechanism leading to fast adaptation is the conditioning of a downstream predictive model on the inferred representation of the task's underlying data generative process, or \emph{function}. This \emph{meta-representation}, which is computed from a few observed examples of the underlying function, is learned jointly with the predictive model. In this work, we study the implications of this joint training on the transferability of the meta-representations. Our goal is to learn meta-representations that are robust to noise in the data and facilitate solving a wide range of downstream tasks that share the same underlying functions. To this end, we propose a decoupled encoder-decoder approach to supervised meta-learning, where the encoder is trained with a contrastive objective to find a good representation of the underlying function. In particular, our training scheme is driven by the self-supervision signal indicating whether two sets of examples stem from the same function. Our experiments on a number of synthetic and real-world datasets show that the representations we obtain outperform strong baselines in terms of downstream performance and noise robustness, even when these baselines are trained in an end-to-end manner.

研究动机与目标

• 提升少样本学习中元表示的可迁移性与抗噪鲁棒性。
• 解决元学习中联合编码器-解码器训练的局限性，后者可能导致监督崩溃和对任务特定噪声的过拟合。
• 通过自监督学习将元表示学习与下游预测任务解耦。
• 使单一共享的元表示能够泛化到多种下游任务。
• 开发一种能捕捉关键功能结构，同时忽略无关噪声和背景特征的表示。

提出的方法

• 该方法使用对比学习目标，训练编码器以对来自同一潜在函数的上下文集合生成相似的表示。
• 正样本对通过从同一函数中采样不同子集形成；负样本对则来自不同函数。
• 对比损失通过动量编码器和动量队列计算，以稳定训练过程。
• 预训练的编码器在推理时用于生成元表示，以条件化独立的、任务特定的解码器。
• 该框架被应用于合成数据集和真实世界数据集，包括视觉和强化学习任务。
• 该方法避免使用重建目标，转而聚焦于功能相似性，以提升泛化能力。

实验结果

研究问题

• RQ1 在上下文集合上使用对比目标是否能提升元表示在多样化下游任务中的可迁移性？
• RQ2 将元表示学习与下游预测解耦是否能增强对数据噪声的鲁棒性？
• RQ3 FCRL 在少样本回归与分类任务中与端到端元学习基线相比表现如何？
• RQ4 FCRL 表示是否能支持视觉控制任务中的数据高效策略学习？
• RQ5 缺乏重建损失是否能带来更优的相关功能特征与背景噪声的解耦？

主要发现

• 在下游少样本预测任务中，FCRL 优于强基线的端到端元学习方法，即使这些基线在完整监督下进行训练。
• 该方法在抗噪方面表现出更优的鲁棒性，尤其在保留物体形状等结构细节的同时忽略静态背景方面。
• 在视觉控制任务中，基于 FCRL 的策略显著优于基于 GQN 的策略，展现出更高的数据效率。
• 与联合训练相比，编码器的对比预训练能产生更解耦且更具泛化能力的表示。
• 解耦训练方案使得同一预训练编码器可高效微调以适应多种下游任务，而无需重新训练。
• 该方法在合成函数和真实世界数据集（包括图像生成和视觉问答）上均表现出色。