[論文レビュー] Learning to Support: Exploiting Structure Information in Support Sets for One-Shot Learning

Jinchao Liu, Stuart Gibson+1 more|arXiv (Cornell University)|Aug 22, 2018

Domain Adaptation and Few-Shot Learning参考文献 21被引用数 4

ひとこと要約

本論文は、クラスサポートネットワークと競争的アテンションメカニズムを用いてサポートセット表現を向上させ、動的プロトタイプ選択を実現する、ワンショット学習のための新規メタラーナーを提案する。より深いCNN埋め込みと近似アンサンブル手法を統合することで、ミニ-ImageNetおよびOmniglotベンチマークで最先端の性能を達成し、特に低ショット設定で顕著な向上を示す。

ABSTRACT

Deep Learning shows very good performance when trained on large labeled data sets. The problem of training a deep net on a few or one sample per class requires a different learning approach which can generalize to unseen classes using only a few representatives of these classes. This problem has previously been approached by meta-learning. Here we propose a novel meta-learner which shows state-of-the-art performance on common benchmarks for one/few shot classification. Our model features three novel components: First is a feed-forward embedding that takes random class support samples (after a customary CNN embedding) and transfers them to a better class representation in terms of a classification problem. Second is a novel attention mechanism, inspired by competitive learning, which causes class representatives to compete with each other to become a temporary class prototype with respect to the query point. This mechanism allows switching between representatives depending on the position of the query point. Once a prototype is chosen for each class, the predicated label is computed using a simple attention mechanism over prototypes of all considered classes. The third feature is the ability of our meta-learner to incorporate deeper CNN embedding, enabling larger capacity. Finally, to ease the training procedure and reduce overfitting, we averages the top $t$ models (evaluated on the validation) over the optimization trajectory. We show that this approach can be viewed as an approximation to an ensemble, which saves the factor of $t$ in training and test times and the factor of of $t$ in the storage of the final model.

研究の動機と目的

• 限られたラベル付きデータのため、深層ネットワークが過学習を起こすことが一般的な少ショットおよびワンショット学習の課題に対処すること。
• 少数のサンプルからより良い、より判別性の高いプロトタイプを学習することで、サポートセット内のクラス表現を向上させること。
• 従来の手法がしばしば活用できなかった、メタラーニングフレームワークに深層CNN埋め込みを効果的に統合すること。
• 効率的な近似アンサンブルを用いて過学習を低減し、一般化性能を向上させること。

提案手法

• フォワードプロパゲーション型のクラスサポートネットワークが、学習された変換を用いて生のサポートサンプルをより代表的なクラス埋め込みに変換する。
• 競争的アテンションメカニズムが、照準位置に応じてクラスごとに動的にプロトタイプを選択し、文脈に応じたプロトタイプ選択を可能にする。
• 選択されたプロトタイプ上でのシンプルなアテンションメカニズムを用いて、照準の最終的なクラス確率を計算する。
• より深いCNN埋め込み（例：9層）をメタラーナーに組み込むことで、特徴表現能力を向上させる。
• バリデーション性能に基づき上位t個のモデルを平均化することで、近似アンサンブル型のメタラーナーを構築し、過学習とストレージコストを低減する。
• エピソードベースの学習により、エンドツーエンドでモデルを訓練し、少ショット分類タスクをシミュレートする。

実験結果

リサーチクエスチョン

• RQ1 メタラーナーは、ランダムに抽出された少数のサポートセットから、より良いクラス代表を効果的に学習できるか？
• RQ2 照準位置に応じて動的にプロトタイプを選択する競争的アテンションメカニズムは、少ショット分類性能を向上させるか？
• RQ3 深層CNN埋め込みは、メトリックベースのメタラーニングフレームワークに過学習を伴わずに統合可能か？
• RQ4 近似アンサンブル型メタラーナーは、どの程度過学習を低減し、一般化性能を向上させるか？

主な発見

• 提案手法は、5-way 1-shotおよび5-way 5-shotのミニ-ImageNetベンチマークで、最先端の手法を上回る性能を達成し、特に9層の深層埋め込みを用いた場合に顕著な向上を示す。
• 4層の埋め込みを用いた場合、Omniglotおよびミニ-ImageNetの両方で、プロトタイプネットやリレーションネットを上回る優れた精度を達成する。
• クラスサポート埋め込みが、特に1ショット学習のような低ショット環境で最大の性能向上をもたらす。これは、ランダムに抽出されたサポートサンプルがクラスを適切に表現できない場合に顕著である。
• 近似アンサンブル型メタラーナーは、早期停止法よりも一貫して性能を向上させ、特に高容量モデルにおいて過学習を効果的に低減する。
• SNAILが使用する13層の残差ネットワークよりも浅い9層のCNNを用いたにもかかわらず、本手法はSNAILを上回る性能を達成しており、埋め込み容量のより効果的な活用が可能であることを示唆している。