[論文レビュー] Few-Shot Learning with Metric-Agnostic Conditional Embeddings

Nathan Hilliard, Lawrence Phillips+4 more|arXiv (Cornell University)|Feb 12, 2018

Digital Imaging for Blood Diseases参考文献 3被引用数 138

ひとこと要約

本論文はMACOを提案する。これはクエリ画像に条件付けられたクラス表現を用いるメトリックに依存しないfew-shot分類器であり、柔軟な非メトリック比較機構を学習することで、CUB-200で最先端の成績を達成し、他データセットでも競争力のある結果を示す。

ABSTRACT

Learning high quality class representations from few examples is a key problem in metric-learning approaches to few-shot learning. To accomplish this, we introduce a novel architecture where class representations are conditioned for each few-shot trial based on a target image. We also deviate from traditional metric-learning approaches by training a network to perform comparisons between classes rather than relying on a static metric comparison. This allows the network to decide what aspects of each class are important for the comparison at hand. We find that this flexible architecture works well in practice, achieving state-of-the-art performance on the Caltech-UCSD birds fine-grained classification task.

研究の動機と目的

• 固定メトリック空間から学習されたクエリ条件付きのクラス表現へ移行することによって、few-shotの汎化性能を向上させる動機付け。
• クエリ画像に条件付けされた各クラスの埋め込みを用いてタスクに関連する属性をより適切に捉える4段階のアーキテクチャを提案する。
• 固定メトリックを置換する学習可能な分類ステージが、細分類データセットと一般データセットの両方で優れた性能をもたらすことを示す。
• クエリ画像にクラス表現を条件付けすることで、測定可能な性能向上を提供することを示す。

提案手法

• 4段階のアーキテクチャ: 特徴抽出、Relational stage、Conditioning stage、学習可能な分類器。
• Relational stageは各クラス内のペアワイズ比較を用いて、平均化スキームによって128次元のクラス埋め込みを生成する。
• Conditioning stageは、クラス埋め込みとクエリベクトルを結合し、それを処理して条件付けられた128-Dのクラスベクトルを生成する。
• 分類段階は、学習可能で順序非依存の1D畳み込みネットワークをクラスベクトルの集合上で使用し、その後密なソフトマックス層を適用する。
• 条件付けネットワークは、バッチ正規化とELU活性化を備えた4つの全結合ブロックとスキップ接続を用いる。
• Relational network g は、128-Dの隠れ層を持つ4ブロックとスキップ接続からなる。出力はすべてのペアワイズ比較の平均によってクラス表現を得る。）

Figure 1: Full model architecture. Blue rectangles indicate fully connected blocks, while orange rectangles indicate convolutional blocks. The final classification architecture makes use of two 1D convolutional blocks followed by a single fully connected block and dense softmax layer.

実験結果

リサーチクエスチョン

• RQ1 メトリックに依存しないニューラルネットワークの出力をクエリ画像で条件付けて、few-shot学習でよりタスク関連のクラス表現を生成できるか。
• RQ2 条件付けは、条件なしのメトリックに依存しない設計を超えるfew-shot性能の改善につながるか。
• RQ3 MACOアプローチは、細分類データセットと広範なデータセットの両方において、既存のベースライン（Matching Networks、Prototypical Networks、Meta-LSTM、MAML）とどう比較されるか。

主な発見

Dataset	1-shot (MACO)	5-shot (MACO)
Caltech-UCSD Birds (CUB-200)	60.76%	74.96%
Caltech-UCSD Birds (CUB-200) MA w/o cond.	55.86%	69.49%
mini ImageNet	41.09%	58.32%
mini DogsNet	39.10%	54.45%

• MACOはCaltech-UCSD Birds (CUB-200)で1-shotおよび5-shotの最先端精度を達成: 60.76% (1-shot) と 74.96% (5-shot)。
• conditioningを削除すると（MA w/o cond.）CUB-200で1-shotが55.86%、5-shotが69.49%に低下し、条件付けが約5ポイントの改善に寄与することを示している。
• mini ImageNetでは、MACOは41.09% (1-shot)と58.32% (5-shot)を達成し、いくつかのベースラインと競合するが1-shotではトップのメタ学習法に及ばない。
• mini DogsNetでは、MACOは39.10% (1-shot)と54.45% (5-shot)を達成し、ショットに応じてMatching NetworksとMAMLの間で順位づけされる。"
• このアーキテクチャは、クエリ条件付きクラス表現を持つ学習可能な分類器が、従来のメトリックベースのアプローチを上回り、広範なデータセットでも競争力を保つことを示している。

Figure 2: Relational network $g$ . $x_{i}$ and $x_{j}$ are image vectors of size 800 processed by the convolutional feature extractor. Each block represents a fully connected layer, batch normalization, and ELU non-linearity. The final output of the block is the summation of the first and final bloc