[論文レビュー] Function Contrastive Learning of Transferable Meta-Representations

Muhammad Waleed Gondal, Shruti Joshi+4 more|arXiv (Cornell University)|Oct 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 36被引用数 4

ひとこと要約

本論文は、関数の順序のない部分観測に対して、関数内と関数間の対照的比較を用いてメタ表現エンコーダーを事前学習する、分離型エンコーダ-デコーダフレームワークである関数対照的表現学習（FCRL）を提案する。FCRLは、同じ関数からのコンテキスト集合と異なる関数からのコンテキスト集合を対照することで、頑健で転移可能なメタ表現を学習し、視覚および制御タスクにおいて特に顕著に、下流の少サンプル予測およびノイズ耐性性能を、エンドツーエンドで訓練されたベースラインを上回る。

ABSTRACT

Meta-learning algorithms adapt quickly to new tasks that are drawn from the same task distribution as the training tasks. The mechanism leading to fast adaptation is the conditioning of a downstream predictive model on the inferred representation of the task's underlying data generative process, or \emph{function}. This \emph{meta-representation}, which is computed from a few observed examples of the underlying function, is learned jointly with the predictive model. In this work, we study the implications of this joint training on the transferability of the meta-representations. Our goal is to learn meta-representations that are robust to noise in the data and facilitate solving a wide range of downstream tasks that share the same underlying functions. To this end, we propose a decoupled encoder-decoder approach to supervised meta-learning, where the encoder is trained with a contrastive objective to find a good representation of the underlying function. In particular, our training scheme is driven by the self-supervision signal indicating whether two sets of examples stem from the same function. Our experiments on a number of synthetic and real-world datasets show that the representations we obtain outperform strong baselines in terms of downstream performance and noise robustness, even when these baselines are trained in an end-to-end manner.

研究の動機と目的

• 少サンプル学習におけるメタ表現の転移可能性とノイズ耐性を向上させること。
• メタ学習における統合型エンコーダ-デコーダ訓練の限界、特に監督の崩壊やタスク固有のノイズへの過学習を是正すること。
• 自己教師学習を用いて、下流の予測タスクからメタ表現学習を分離すること。
• 1つの共通メタ表現が多様な下流タスクに一般化できることを可能にすること。
• 関連する機能的構造を捉えながら、不要なノイズや背景特徴を無視する表現を開発すること。

提案手法

• 本手法は、同じ関数から抽出されたコンテキスト集合に対して類似した表現を生成するようにエンコーダーを訓練するための対照的学習目的を用いる。
• ポジティブペアは、同じ関数からの異なるサブセットをサンプリングすることで形成される。ネガティブペアは、異なる関数からのものである。
• 対照的損失は、モーメンタムエンコーダーとモーメンタムキューを用いて計算され、訓練の安定化を図る。
• 事前学習されたエンコーダーは、推論時に別個のタスク固有のデコーダーを条件づけるメタ表現を生成するために用いられる。
• 本フレームワークは、視覚および強化学習タスクを含む、合成データおよび実世界データセットに適用されている。
• 再構成に基づく目的を避けて、一般化を向上させるために関数的類似性に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 コンテキスト集合に対する対照的目的は、多様な下流タスクにわたるメタ表現の転移可能性を向上させることができるか？
• RQ2 メタ表現学習を下流予測タスクから分離することで、データノイズに対する耐性が向上するか？
• RQ3 FCRLは、少サンプル回帰および分類タスクにおいて、エンドツーエンドのメタ学習ベースラインと比較してどのように性能を癴すか？
• RQ4 FCRLの表現は、視覚的制御タスクにおけるデータ効率の良いポリシー学習を支援できるか？
• RQ5 再構成損失が存在しないことで、関連する機能的特徴と背景ノイズの分離が向上するか？

主な発見

• FCRLは、完全な教師信号で訓練された強力なエンドツーエンドメタ学習ベースラインですら、下流の少サンプル予測タスクで優れる。
• ノイズ耐性が顕著に優れており、特に静的背景を無視しながらも、物体の形状などの構造的詳細を保持する点で顕著である。
• 視覚的制御タスクにおいて、FCRLベースのポリシーはGQNベースのポリシーを著しく上回り、データ効率の向上を示した。
• エンコーダーの対照的事前学習は、統合学習に比べてより分離され、一般化可能な表現をもたらす。
• 分離型訓練方式により、同じ事前学習エンコーダーを再訓練することなく、複数の下流タスクに対して効率的にファインチューニングが可能である。
• 本手法は、合成関数および実世界データセット（画像生成や視覚的質問応答を含む）の両方で優れた性能を示した。