[論文レビュー] Finding Task-Relevant Features for Few-Shot Learning by Category Traversal

Hongyang Li, David Eigen+3 more|arXiv (Cornell University)|May 27, 2019

Domain Adaptation and Few-Shot Learning参考文献 41被引用数 96

ひとこと要約

本論文は、カテゴリ全体を横断してタスク関連の特徴次元を識別する Category Traversal Module（CTM）を提案し、ミニImageNetとtieredImageNetでのメトリクスベースのfew-shot学習の性能を約5–10%向上させます。CTMはプラグアンドプレイで、複数のベースラインを強化します。

ABSTRACT

Few-shot learning is an important area of research. Conceptually, humans are readily able to understand new concepts given just a few examples, while in more pragmatic terms, limited-example training situations are common in practice. Recent effective approaches to few-shot learning employ a metric-learning framework to learn a feature similarity comparison between a query (test) example, and the few support (training) examples. However, these approaches treat each support class independently from one another, never looking at the entire task as a whole. Because of this, they are constrained to use a single set of features for all possible test-time tasks, which hinders the ability to distinguish the most relevant dimensions for the task at hand. In this work, we introduce a Category Traversal Module that can be inserted as a plug-and-play module into most metric-learning based few-shot learners. This component traverses across the entire support set at once, identifying task-relevant features based on both intra-class commonality and inter-class uniqueness in the feature space. Incorporating our module improves performance considerably (5%-10% relative) over baseline systems on both mini-ImageNet and tieredImageNet benchmarks, with overall performance competitive with recent state-of-the-art systems.

研究の動機と目的

• few-shot学習においてサポートクラスを個別に扱う際のタスク認識型特徴選択の必要性を動機づける。
• intra-classの共通性と inter-classの固有性を活用してタスク関連特徴次元を識別するプラグアンドプレイモジュールを開発する。
• CTMを既存のメトリックベースのfew-shot学習器と統合し、埋め込みの識別性を向上させる。
• 標準ベンチマークでの広範なアブレーションと比較を通じてCTMの有効性を示す。

提案手法

• CTMは concentrator（ intra-class共通性）と projector（ inter-class固有性）からなる。
• Concentratorは次元削減とクラス内特徴の要約を行い、クラスごとの埋め込み ‘o’ を生成する。
• Projectorはクラス間を横断してマスク ‘p’ を生成し、タスク関連特徴次元を選択する。
• マスクをサポートとクエリの埋め込みに適用して改善された特徴 I(S) と I(Q) を得る。
• CTMを既存の metric-based few-shot learner（Matching Net、Prototypical Net、Relation Net）に組み込み、それらの類似度を M(r(S) ⊙ p, r(Q) ⊙ p) に置換して適用する。
• miniImageNetと tieredImageNetの標準的な5-way/1–5-shot設定でエピソード単位の学習と評価を行う。

実験結果

リサーチクエスチョン

• RQ1 サポートセットのクロスカテゴリ的ビューは、few-shot学習におけるタスク関連特徴の識別を改善するか。
• RQ2 CTMは既存のメトリックベースのfew-shot学習器を改善し、ベンチマーク全体でどの程度向上するか。
• RQ3 CTMのどのコンポーネント（concentrator、projector）が性能向上に不可欠か。
• RQ4 CTMは学習された特徴空間の識別性にどのような影響を与えるか。

主な発見

Model	Mini ImageNet 1-shot	Mini ImageNet 5-shot	Tiered ImageNet 1-shot	Tiered ImageNet 5-shot
CTM (ours)	62.05	78.63	64.78	81.05
CTM (ours), data augment	64.12	80.51	68.41	84.28

• CTMは既存のメトリックベース手法と組み合わせた場合、ミニImageNetとtieredImageNetで相対的に約5–10%の一貫したゲインをもたらす。
• CTMはMatching Net、Prototypical Net、Relation Netを1-shotおよび5-shot設定で複数ポイントの改善をもたらす。
• より深いバックボーン（ResNet-18）とCTMの組み合わせにより性能が大幅に向上する（例: 1-shot miniImageNetで CTM を用いると 62.05% に改善、表4）。
• アブレーション実験では、concentratorまたはprojectorを削除すると性能が低下し、両コンポーネントが最佳結果に不可欠であることを確認。
• CTMのデータ拡張版はさらに結果を改善（例: miniImageNet 1-shot 64.12%、tiered 1-shot 68.41% に拡張）。
• t-SNEの可視化は、CTMベースのマスキング適用後により緊密で識別性の高いクラスタを示す。