[論文レビュー] Impostor Networks for Fast Fine-Grained Recognition

Vadim Lebedev, Artem Babenko+1 more|arXiv (Cornell University)|Jun 13, 2018

Advanced Neural Network Applications参考文献 25被引用数 3

ひとこと要約

この論文では、軽量なディーブラーニングアーキテクチャとしてのインポストアネットワークを紹介する。これは、コンパクトな畳み込みニューラルネットワーク（例：SqueezeNet）と、学習可能で非パラメトリックな径路基底関数（RBF）分類器を組み合わせたもので、CPUオンリーおよび低消費電力プラットフォーム上でも高精度な細分化画像認識を実現する。特徴抽出器とRBF分類器を同時に学習する際、RBFの中心（インポストア）が訓練サンプルに固定されていないが、学習中に進化するようにすることで、ベースラインネットワークに比べて顕著な精度向上を達成し、計算コストの増加は最小限に抑えられる。

ABSTRACT

In this work we introduce impostor networks, an architecture that allows to perform fine-grained recognition with high accuracy and using a light-weight convolutional network, making it particularly suitable for fine-grained applications on low-power and non-GPU enabled platforms. Impostor networks compensate for the lightness of its `backend' network by combining it with a lightweight non-parametric classifier. The combination of a convolutional network and such non-parametric classifier is trained in an end-to-end fashion. Similarly to convolutional neural networks, impostor networks can fit large-scale training datasets very well, while also being able to generalize to new data points. At the same time, the bulk of computations within impostor networks happen through nearest neighbor search in high-dimensions. Such search can be performed efficiently on a variety of architectures including standard CPUs, where deep convolutional networks are inefficient. In a series of experiments with three fine-grained datasets, we show that impostor networks are able to boost the classification accuracy of a moderate-sized convolutional network considerably at a very small computational cost.

研究の動機と目的

• モバイルデバイスなどの低消費電力でGPUを搭載しないプラットフォームに、高精度な細分化画像分類器をデプロイする課題に対処すること。
• 最先端のディープネットワークの計算負荷とモデルサイズを軽減しながら、分類精度を維持または向上させること。
• 軽量CNNの表現能力に制限がある場合に、それを補うために学習可能な非パラメトリック分類器（RBF）の使用を検討すること。
• RBFの中心（インポストア）を訓練中に訓練例から離れて動かすことで、一般化性能とオープンセット検出能力を向上させること。
• CNNとRBF分類器をエンドツーエンドで同時に学習させることで、小規模で効率的なネットワークでも優れた性能を達成できることを示すこと。

提案手法

• 軽量畳み込みネットワーク（例：SqueezeNet）に続く、中心が固定でない学習可能なRBF分類器を持つハイブリッドアーキテクチャを提案する。
• 交差エントロピーに加えて、クラスの凝集性を促進するための近傍成分分析（NCA）に類似した項を含む損失関数を用いて、システム全体をエンドツーエンドで学習する。
• RBFの中心（インポストア）を、特定の訓練サンプルに束縛されない学習可能なパラメータとし、最適化中に移動可能にする。
• 高次元のCNN特徴量をRBF分類器の入力とし、L2距離に基づく重み付き投票による分類を実行する。
• 3種類の訓練バリエーションを適用：固定インポストア（訓練特徴量で初期化）、リラックスインポストア（学習可能で更新可能）、ハイブリッドアプローチ。
• 精度の著しい低下を伴わずに、メモリオーバーヘッドを削減するための標準的なモデル圧縮技術（例：プルーニング、量子化）を適用する。

実験結果

リサーチクエスチョン

• RQ1 軽量CNNと学習可能な非パラメトリック分類器（RBF）を組み合わせることで、低消費電力ハードウェア上でも高精度な細分化認識が達成できるか？
• RQ2 RBFの中心（インポストア）を訓練中に固定せず、訓練サンプルから離れて進化させることで、一般化性能と精度が向上するか？
• RQ3 未知のクラスがテスト時に存在するオープンセット認識のシナリオにおいて、インポストアネットワークはどのように性能を示すか？
• RQ4 標準的なCNNと比較して、インポストアネットワークの計算コストとメモリオーバーヘッドはどの程度で、圧縮技術によって軽減可能か？
• RQ5 SqueezeNetのような小規模なネットワークの性能は、この手法によってどの程度向上するか？

主な発見

• インポストアネットワークは、CUB-200-2011 や Stanford Cars などの細分化データセットにおいて、中程度のサイズのCNN（例：SqueezeNet）の分類精度を顕著に向上させ、計算コストの増加は最小限に抑えられる。
• RBFの中心をエンドツーエンドで学習可能なリラックスインポストアバージョンが最も高い精度を達成しており、学習可能で固定されていないインポストアが一般化性能を向上させることを示している。
• CUB-200-2011データセットにおいて、SqueezeNetを搭載したインポストアネットワークは、標準的な交差エントロピー基準よりも大幅に優れており、より深いモデルでさえも上回る精度を達成しながら、はるかに高速である。
• オープンセット認識においても性能が向上：非鳥画像（未知クラス）に対してインポストアネットワークはより高いエントロピー（低い信頼度）を示し、標準的なCNNよりも優れた不確実性推定が可能であることが示された。
• インポストアネットワークのメモリオーバーヘッドは最小限であり、プルーニングや量子化などの圧縮技術によりさらなる削減が可能で、精度の著しい低下は生じない。
• このアプローチにより、CPU上での効率的な推論が可能となり、GPU加速を必要とする深層モデルとは異なり、モバイルおよびエッジデプロイメントに適している。