[論文レビュー] Low-shot visual object recognition.

Bharath Hariharan, Ross Girshick|arXiv (Cornell University)|Jun 9, 2016

Domain Adaptation and Few-Shot Learning被引用数 36

ひとこと要約

本論文は、分類の前に特徴表現を学習できるようにする新しい評価プロトコルを提案する。表現正則化技術を導入することで、ImageNet上で学習データ要件を2倍に削減しつつも正確性を維持し、深層学習における少サンプル一般化性能を著しく向上させる。

ABSTRACT

Low-shot visual learning - the ability to recognize novel object categories from very few examples - is a hallmark of human visual intelligence. Existing machine learning approaches fail to generalize in the same way. To make progress on this foundational problem, we present a novel protocol to evaluate low-shot learning on complex images where the learner is permitted to first build a feature representation. Then, we propose and evaluate representation regularization techniques that improve the effectiveness of convolutional networks at the task of low-shot learning, leading to a 2x reduction in the amount of training data required at equal accuracy rates on the challenging ImageNet dataset.

研究の動機と目的

• 非常に少ない例えでの新しいカテゴリの分類を必要とする、低サンプル視覚オブジェクト認識の課題に対処すること。
• 人間が少サンプル状況で一般化できるのに対し、既存の機械学習手法が失敗するという限界を克服すること。
• 分類の前に特徴表現を事前に学習できるようにする新しい評価プロトコルを開発することにより、現実世界の少サンプル学習をよりよく反映すること。
• 新規の表現正則化技術を用いて、畳み込みネットワークの低サンプル設定下での一般化性能を向上させること。
• 正則化がImageNetデータセットで同等の正確性を維持しながら、学習データ要件を2倍に削減できることを実証すること。

提案手法

• モデルがクエリ画像を分類する前に、サポートセットから特徴表現を事前に学習する新しい評価プロトコルを提案する。
• 少サンプル設定下での特徴の質と一般化性能を向上させるために、表現正則化技術を導入する。
• 最小限のデータからの判別性が高く、頑健な表現を促進するために、特徴学習段階で正則化を適用する。
• 新規プロトコルと正則化を用いて畳み込みニューラルネットワークを訓練し、ゼロショットおよび少サンプル一般化を最適化する。
• 標準的な少サンプルベンチマークを用いてImageNetデータセット上で性能を評価し、正確性とデータ効率を測定する。
• 実験全体で同じバックボーンアーキテクチャを用いることで、提案された正則化技術の影響を明確に分離する。

実験結果

リサーチクエスチョン

• RQ1 分類の前に特徴表現の事前学習を許容するプロトコルが、視覚認識における低サンプル一般化を改善できるか？
• RQ2 表現正則化技術は、ImageNetにおける少サンプル学習のためのデータ要件をどの程度削減できるか？
• RQ3 提案手法を用いることで、深層ネットワークがわずか数例でのみ新しいオブジェクトカテゴリに一般化できるか？
• RQ4 提案手法は、低サンプル条件におけるデータ効率と正確性の観点で、既存の手法を上回るか？

主な発見

• 提案された評価プロトコルにより、分類の前により効果的な特徴表現を学習できるようになり、少サンプル性能が向上した。
• 表現正則化は、わずかな例えから学習された特徴の判別力の向上に著しく寄与した。
• 本手法は、ImageNet上で同じ正確性を維持しながら、学習データ要件を2倍に削減した。
• 標準的な少サンプル学習ベースラインと比較して、提案手法は新しいオブジェクトカテゴリへの一般化性能が向上した。
• 結果から、正則化を伴う表現学習が、深層ネットワークにおける人間のような少サンプル一般化を達成する上で不可欠であることが示された。