[論文レビュー] Compression of Deep Neural Networks for Image Instance Retrieval

Vijay Chandrasekhar, Jie Lin+5 more|arXiv (Cornell University)|Jan 18, 2017

Advanced Image and Video Retrieval Techniques参考文献 20被引用数 4

ひとこと要約

本稿では、画像インスタンス検索に特化した、深層畳み込みニューラルネットワークの包括的圧縮フレームワークを提案する。量子化、プルーニング、符号化、重み共有を組み合わせ、特に残差ネットワークに対して効果的である。全精度ネットワークと比較して性能損失が最小限である5–10 MBのモデルを実現する。

ABSTRACT

Image instance retrieval is the problem of retrieving images from a database which contain the same object. Convolutional Neural Network (CNN) based descriptors are becoming the dominant approach for generating {\it global image descriptors} for the instance retrieval problem. One major drawback of CNN-based {\it global descriptors} is that uncompressed deep neural network models require hundreds of megabytes of storage making them inconvenient to deploy in mobile applications or in custom hardware. In this work, we study the problem of neural network model compression focusing on the image instance retrieval task. We study quantization, coding, pruning and weight sharing techniques for reducing model size for the instance retrieval problem. We provide extensive experimental results on the trade-off between retrieval performance and model size for different types of networks on several data sets providing the most comprehensive study on this topic. We compress models to the order of a few MBs: two orders of magnitude smaller than the uncompressed models while achieving negligible loss in retrieval performance.

研究の動機と目的

• 大規模かつ圧縮されていない深層畳み込みニューラルネットワークを、ストレージとメモリ要件が高いため、モバイルおよび組み込みシステムに展開する課題に対処する。
• 画像分類とは異なる要件を有する画像インスタンス検索に特化した、モデル圧縮技術（量子化、プルーニング、符号化、重み共有）を調査する。
• 複数のアーキテクチャとデータセットを対象として、モデルサイズと検索性能のトレードオフに関する包括的な実験的分析を提供する。
• 1 MB未満の特徴抽出器を要件とするMPEGのコンact Descriptors for Visual Search（CDVS）のような新規基準への導入を可能にする。

提案手法

• ネットワーク重みに4〜5ビットのスカラー量子化を適用し、精度を低下させずに検索性能を維持する。
• 全結合層の圧縮にベクトル量子化（VQ）とスカラー量子化（SQ）を用い、さらにハフマン符号化によりサイズを削減する。
• 畳み込み層における完全なフィルターやチャネルの削除による構造的プルーニングを実装し、モデルサイズを削減しながら特徴表現を維持する。
• 深層残差ネットワーク（ResNets）における残差ブロック間での重み共有を導入し、繰り返し利用されるブロックで共有重みを用いることで、パラメータ数を顕著に削減する。
• 共有重みを用いた初期学習から共有ResNetモデルを訓練し、さらに量子化と符号化を用いて圧縮を進める。
• mAPを指標として、複数のネットワーク（AlexNet, VGG, ResNet, SqueezeNet）とデータセット（Oxford-5K, Paris-6K, Holidays, UKB）に対して圧縮技術の効果を評価する。

実験結果

リサーチクエスチョン

• RQ1 画像インスタンス検索のための深層ネットワークに量子化、プルーニング、符号化を適用した場合、モデルサイズと検索性能のトレードオフはどのように変化するか？
• RQ2 深層残差ネットワークにおける残差ブロック間での重み共有は、モデルサイズと検索精度にどのように影響を与えるか？
• RQ3 5–10 MB程度に圧縮されたモデルは、全精度モデルと同等の性能を維持できるか？
• RQ4 異なるアーキテクチャとデータセットにおいて、さまざまな圧縮技術の性能と効率はどのように比較できるか？
• RQ5 SqueezeNetのような過度なアーキテクチャ最適化は、モデルサイズの削減に貢献するが、検索性能にどの程度悪影響を及えるか？

主な発見

• 4ビット量子化ではAlexNetとVGGで性能損失が顕著ではなく、ResNetでは高い検索精度を維持するためには5ビット量子化が必要である。
• 5–10 MBの圧縮モデルは、すべてのデータセットで元の非圧縮モデルとほぼ同一の検索性能を達成しており、サイズが100倍以上小さくなった。
• プルーニングと粗い量子化は、モデルサイズと性能のトレードオフにおいて類似した結果を示しており、両者が有効な圧縮戦略であることを示している。
• Oxford-5Kでは圧縮VGGが最高の性能を示し、Paris-6K、Holidays、UKBでは圧縮ResNetが他のモデルを上回った。
• 重み共有を導入した共有ResNetは、非共有バージョンと比較してモデルサイズを3–4倍に削減でき、さらに量子化を適用することでより小型のモデルが実現した。
• SqueezeNetベースのモデル（C-SqueezeN）は0.5 MBにまで小さくなったが、トップパフォーマンスを示す手法と比較して顕著に性能が劣った。これは、過度なアーキテクチャ的圧縮が検索性能に悪影響を及えることを示している。