[論文レビュー] Learning from Adversarial Features for Few-Shot Classification

Wei Shen, Ziqiang Shi+1 more|arXiv (Cornell University)|Mar 25, 2019

Adversarial Robustness in Machine Learning参考文献 35被引用数 8

ひとこと要約

本稿では、勾配ベースの注目マスクから得られる敵対的特徴を用いて訓練することで、タスク固有の適応なしに一般化性能を向上させる、シンプルでありながら効果的な敵対的特徴学習手法を提案する。本手法は、特徴マップの空間的探索を促進し、より正確な注目局所化のためのマルチスケール特徴を活用することで、miniImageNet および tieredImageNet における 5 ワイ 1 ショットおよび 5 ワイ 5 ショットタスクで最先端の性能を達成する。

ABSTRACT

Many recent few-shot learning methods concentrate on designing novel model architectures. In this paper, we instead show that with a simple backbone convolutional network we can even surpass state-of-the-art classification accuracy. The essential part that contributes to this superior performance is an adversarial feature learning strategy that improves the generalization capability of our model. In this work, adversarial features are those features that can cause the classifier uncertain about its prediction. In order to generate adversarial features, we firstly locate adversarial regions based on the derivative of the entropy with respect to an averaging mask. Then we use the adversarial region attention to aggregate the feature maps to obtain the adversarial features. In this way, we can explore and exploit the entire spatial area of the feature maps to mine more diverse discriminative knowledge. We perform extensive model evaluations and analyses on miniImageNet and tieredImageNet datasets demonstrating the effectiveness of the proposed method.

研究の動機と目的

• モデルが訓練クラスに過剰適合し、新規クラスで失敗するという少数ショット学習における一般化ギャップを解消すること。
• アーキテクチャの複雑さを増さずに、学習された特徴のロバスト性と多様性を向上させること。
• 特徴マップの敵対的摂動を用いた訓練戦略を開発し、特徴抽出器の一般化性能を向上させること。
• 再訓練や適応なしに、1 ショットと 5 ショットの複数の少数ショット設定で良好に動作する1つのモデルを実現すること。

提案手法

• エントロピーの平均マスクに関する勾配を計算することで、分類器の不確実性を引き起こす領域を同定し、敵対的特徴を生成する。
• 敵対的領域注目機構を学習し、特徴マップを集約することで、モデルが顕著な領域にのみ注目するのを防ぎ、空間全体を探索するよう強制する。
• 異なる畳み込み層からのマルチスケール特徴を用いて、より正確な注目マスクを生成する分類器を訓練する。
• グローバル平均プーリング、敵対的特徴、およびハイレベル特徴を組み合わせたマルチスケール分類損失を用いてパラメータを更新する。
• 敵対的注目マスクはグローバル平均プーリング特徴から導出され、訓練中に特徴表現を摂動するために適用される。
• 最終的な特徴抽出器はエンドツーエンドで訓練され、推論時にはグローバル平均プーリングのみを用い、新規タスクでの適応が不要となる。

実験結果

リサーチクエスチョン

• RQ1 アーキテクチャの変更なしに、敵対的特徴学習が少数ショット分類における一般化を向上させられるか？
• RQ2 敵対的特徴で訓練することで、訓練データの顕著な特徴的領域への過剰適合が軽減されるか？
• RQ3 敵対的特徴で訓練された1つのモデルが、1 ショットと 5 ショットの異なる少数ショット設定に効果的に一般化できるか？
• RQ4 マルチスケール特徴学習は、敵対的注目領域の正確性と局所化にどのように影響するか？
• RQ5 敵対的特徴訓練は、テスト特徴における敵対的摂動に対するロバスト性をどの程度向上させるか？

主な発見

• 提案手法は、miniImageNet および tieredImageNet における 5 ワイ 1 ショットおよび 5 ワイ 5 ショットタスクで、タスク固有の適応なしに最先端の精度を達成した。
• miniImageNet では、1 ショットタスクでベースラインモデル比 5.04% の絶対的向上、5 ショットタスクで 4.65% の向上を達成した。
• tieredImageNet では、1 ショットタスクで 3.33%、5 ショットタスクで 3.02% の向上を示し、過剰適合が顕著に現れる小さなデータセットでより顕著な向上が得られた。
• 敵対的特徴で訓練されたモデルは、敵対的摂動に対して著しく高いロバスト性を示し、γ 値が増加しても安定した性能を維持した。
• マルチスケール特徴学習により注目局所化の正確性が向上し、単一スケールのベースラインと比較して、背景を物体と誤分類する割合が減少した。
• アブレーションスタディの結果、敵対的注目が特徴マップの空間的探索を促進し、過剰適合を低減するとともに一般化性能を向上させることを確認した。