[論文レビュー] A Scalable Multilabel Classification to Deploy Deep Learning Architectures For Edge Devices

Tolulope A. Odetola, Ogheneuriri Oderhohwo+1 more|arXiv (Cornell University)|Nov 5, 2019

Advanced Image and Video Retrieval Techniques参考文献 24被引用数 5

ひとこと要約

本論文は、複数の損失関数および精度層を備えた1つのCNNを用いることで、画像の切り出しやタイリング処理を不要とするエッジデバイス向けにスケーラブルな単一モデルマルチラベル分類フレームワークを提案する。従来のマルチラベルアプローチと比較して、平均で1.8倍少ないMACC演算、最大50％低い待機時間、モデルサイズの削減を達成し、AlexNet、GoogleNet、SqueezeNetの各モデルで同等の精度を実現する。

ABSTRACT

Convolution Neural Networks (CNN) have performed well in many applications such as object detection, pattern recognition, video surveillance and so on. CNN carryout feature extraction on labelled data to perform classification. Multi-label classification assigns more than one label to a particular data sample in a data set. In multi-label classification, properties of a data point that are considered to be mutually exclusive are classified. However, existing multi-label classification requires some form of data pre-processing that involves image training data cropping or image tiling. The computation and memory requirement of these multi-label CNN models makes their deployment on edge devices challenging. In this paper, we propose a methodology that solves this problem by extending the capability of existing multi-label classification and provide models with lower latency that requires smaller memory size when deployed on edge devices. We make use of a single CNN model designed with multiple loss layers and multiple accuracy layers. This methodology is tested on state-of-the-art deep learning algorithms such as AlexNet, GoogleNet and SqueezeNet using the Stanford Cars Dataset and deployed on Raspberry Pi3. From the results the proposed methodology achieves comparable accuracy with 1.8x less MACC operation, 0.97x reduction in latency and 0.5x, 0.84x and 0.97x reduction in size for the generated AlexNet, GoogleNet and SqueezeNet CNN models respectively when compared to conventional ways of achieving multi-label classification like hard-coding multi-label instances into single labels. The methodology also yields CNN models that achieve 50\% less MACC operations, 50% reduction in latency and size of generated versions of AlexNet, GoogleNet and SqueezeNet respectively when compared to conventional ways using 2 different single-labelled models to achieve multi-label classification.

研究の動機と目的

• 従来のマルチラベルCNNがエッジデバイスにデプロイするにあたり、高いメモリおよび計算コストを要するため、スケーラビリティとデプロイの課題に対処すること。
• マルチラベル分類において、切り出しやタイリングなどの画像前処理手順を排除すること。
• 1つの入力に対して複数の相互に排他的なラベル分類を効率的に行える1つのディープラーニングモデルを実現すること。
• 従来のマルチモデルまたはハードコーディングされた単一ラベルアプローチと比較して、推論待機時間、MACC演算、モデルサイズを低減すること。
• トランスファー学習と統合アーキテクチャを活用して、Raspberry Pi 3などのエッジハードウェア上で効率的で低コストなマルチラベル学習とデプロイを実現すること。

提案手法

• 各ラベル属性が互いに排他的であるように、複数の損失関数および精度層を備えた1つのCNNモデルを設計する。
• 最新のモデル（AlexNet、GoogleNet、SqueezeNet）をアーキテクチャの大幅な見直しを伴わずに、マルチラベル分類用に微調整するためのトランスファー学習を用いる。
• すべてのラベル固有の損失を統合した統一損失関数を用いて学習し、複数出力の同時最適化を図る。
• データ統合技術を適用して、関連するおよび関連のないラベル分類を同じモデル内で処理する。
• 訓練済みモデルをエッジデバイス（例：Raspberry Pi 3）にデプロイし、推論効率、待機時間、モデルサイズを評価する。
• モデルのトレーニングにはCaffeフレームワーク、最終アーキテクチャの可視化にはNetScopeを用いる。

実験結果

リサーチクエスチョン

• RQ1 複数の損失関数および精度層を備えた1つのCNNモデルが、切り出しやタイリングなどの画像前処理を不要としながら、効果的なマルチラベル分類を達成できるか？
• RQ2 本手法は、ハードコーディングされたマルチラベルインスタンスや別々の単一ラベルモデルを用いた従来のアプローチと比較して、精度、待機時間、モデルサイズにおいてどのように異なるか？
• RQ3 トランスファー学習とマルチ損失学習を活用することで、エッジデプロイに向けたMACC演算とメモリフットプリントをどの程度低減できるか？
• RQ4 本手法は、リソース制限のあるデバイス上で、スケーラブルで低コストなマルチラベル推論を維持しながら高い分類精度を達成できるか？

主な発見

• 本手法は、従来のアプローチと同等のマルチラベル分類精度を達成するとともに、平均で1.8倍少ないMACC演算を実現する。
• ハードコーディングされたマルチラベル学習手法と比較して、待機時間が0.97倍（約3％の改善）に低下する。
• 2つの別々の単一ラベルモデルを用いたマルチラベル分類と比較して、モデルサイズが平均で50％削減される。
• ハードコーディングされたマルチラベル学習と比較して、AlexNet、GoogleNet、SqueezeNetそれぞれで、モデルサイズが0.5倍、0.84倍、0.97倍に削減される。
• Raspberry Pi 3などのエッジデバイスへの効率的なデプロイが可能となり、計算およびメモリのオーバーヘッドが顕著に低減される。
• データ統合により、関連するおよび関連のない属性の同時分類が可能となり、追加のモデル複雑性を伴わずにスケーラビリティが向上する。