[論文レビュー] FLAT: Few-Shot Learning via Autoencoding Transformation Regularizers

Haohang Xu, Hongkai Xiong+1 more|arXiv (Cornell University)|Dec 29, 2019

Domain Adaptation and Few-Shot Learning参考文献 19被引用数 4

ひとこと要約

FLATは、基本カテゴリの画像に適用された変換を自己符号化することで、変換正則化中にラベルに依存せずに、新しいカテゴリへの一般化を向上させる、少サンプル学習のための新規自己教師付き正則化手法を提案する。ミニImageNetおよびCUBにおいて最先端の性能を達成し、クロスデータセット評価で5ショット精度67.69%を記録し、ドメインシフトに対して優れたロバスト性を示している。

ABSTRACT

One of the most significant challenges facing a few-shot learning task is the generalizability of the (meta-)model from the base to the novel categories. Most of existing few-shot learning models attempt to address this challenge by either learning the meta-knowledge from multiple simulated tasks on the base categories, or resorting to data augmentation by applying various transformations to training examples. However, the supervised nature of model training in these approaches limits their ability of exploring variations across different categories, thus restricting their cross-category generalizability in modeling novel concepts. To this end, we present a novel regularization mechanism by learning the change of feature representations induced by a distribution of transformations without using the labels of data examples. We expect this regularizer could expand the semantic space of base categories to cover that of novel categories through the transformation of feature representations. It could minimize the risk of overfitting into base categories by inspecting the transformation-augmented variations at the encoded feature level. This results in the proposed FLAT (Few-shot Learning via Autoencoding Transformations) approach by autoencoding the applied transformations. The experiment results show the superior performances to the current state-of-the-art methods in literature.

研究の動機と目的

• 特徴空間におけるカテゴリ間の変異を活用することで、少サンプル学習におけるベースカテゴリから新しいカテゴリへの一般化を向上させること。
• ラベル依存性と現実的でない歪みのため、一般化に失敗する supervised data augmentation の限界を解消すること。
• ベースカテゴリや新しいカテゴリのラベルを一切使用せずに、変換に起因する特徴変異を学習する非教師付き正則化メカニズムを開発すること。
• 符号化された特徴レベルでの変換増幅による変化を検査することで、ベースカテゴリへの過学習を低減すること。
• より強力で一般化可能な表現を学習することで、データセット間でのより良い転送性を実現すること。

提案手法

• 1本目のブランチが元の画像を処理し、2本目のブランチが同じ画像のランダムにサンプリングされた変換を処理する二重ブランチニューラルネットワークアーキテクチャを採用する。
• 変換パラメータの再構成損失を用いて、符号化された特徴から適用された変換を再構成することで、非教師ありの方法で事前学習を行う。
• 変換増幅された特徴を用いて、ベースカテゴリの表現学習を正則化し、その意味的空間を新しいカテゴリのものに拡張する。
• 変換に起因する変化に対して不変である一方で、意味的構造を保持するように表現エンコーダーを学習することで、一般化を向上させる。
• 推論段階では、事前学習済みエンコーダーを用いて、新しいカテゴリの少サンプル例に基づいて分類器をファインチューニングする。
• 特徴エンコーダーに自己教師付き正則化器として統合可能であり、既存の少サンプル学習フレームワークとシームレスに統合できる。

実験結果

リサーチクエスチョン

• RQ1 非教師付き変換自己符号化は、少サンプル学習におけるベースカテゴリから新しいカテゴリへの一般化を向上させることができるか？
• RQ2 変換ベースの正則化は、カテゴリ間一般化という観点で、supervised data augmentation より優れているか？
• RQ3 変換下での特徴レベルの変化を検査する自己教師付き正則化器は、ベースカテゴリへの過学習を低減できるか？
• RQ4 提案手法は、ドメインシフトを伴うクロスデータセット少サンプル学習シナリオにおいて、どの程度一般化を向上させるか？
• RQ5 変換の自己符号化は、既存の最先端の少サンプル学習手法よりも優れた性能を達成するか？

主な発見

• ミニImageNetからCUBへのクロスデータセット評価において、FLATは5ショット精度67.69%を達成し、最良のベースラインより2.1%優れている。
• ミニImageNetデータセットにおいて、FLATは最先端の手法を上回る優れた性能を示しており、標準的な少サンプル学習ベンチマークにおける有効性を裏付けている。
• クロスデータセットシナリオにおける一貫した性能向上から、ドメインシフトに対して強いロバスト性を示している。
• アブレーションスタディにより、自己符号化正則化メカニズムが、ベースカテゴリの意味的特徴空間を拡張することで一般化を顕著に向上させていることが確認された。
• 新しいクラスの特徴からスクラッチでファインチューニングを行っても、モデルが良好に一般化していることから、学習済み表現の強さが示された。
• ドメイン内およびクロスデータセット設定の両方において、標準ベースラインおよびMAMLやProtoNetといった高度なメタラーニングモデルを上回る性能を発揮した。