[論文レビュー] FD-MobileNet: Improved MobileNet with a Fast Downsampling Strategy

Zheng Qin, Zhang Zhao-ning+2 more|arXiv (Cornell University)|Feb 11, 2018

Advanced Neural Network Applications参考文献 18被引用数 14

ひとこと要約

FD-MobileNet は、極めて低い計算リソース制約（10–140 MFLOPs）下でも効率性と精度を顕著に向上させるために、MobileNetアーキテクチャ内に高速ダウンサンプリング戦略を導入する。12層で32倍の空間的ダウンサンプリングを実現し、元のMobileNetの半分のレイヤー数で実現することで、特徴マップのチャネル容量を増加させ、FLOPsを削減し、より高速な推論を可能にする。12 MFLOPsでMobileNetよりも5.5%高いトップ1精度を達成し、ARMデバイス上ではShuffleNetよりも1.82倍速い推論速度を実現する。

ABSTRACT

We present Fast-Downsampling MobileNet (FD-MobileNet), an efficient and accurate network for very limited computational budgets (e.g., 10-140 MFLOPs). Our key idea is applying an aggressive downsampling strategy to MobileNet framework. In FD-MobileNet, we perform 32$ imes$ downsampling within 12 layers, only half the layers in the original MobileNet. This design brings three advantages: (i) It remarkably reduces the computational cost. (ii) It increases the information capacity and achieves significant performance improvements. (iii) It is engineering-friendly and provides fast actual inference speed. Experiments on ILSVRC 2012 and PASCAL VOC 2007 datasets demonstrate that FD-MobileNet consistently outperforms MobileNet and achieves comparable results with ShuffleNet under different computational budgets, for instance, surpassing MobileNet by 5.5% on the ILSVRC 2012 top-1 accuracy and 3.6% on the VOC 2007 mAP under a complexity of 12 MFLOPs. On an ARM-based device, FD-MobileNet achieves 1.11$ imes$ inference speedup over MobileNet and 1.82$ imes$ over ShuffleNet under the same complexity.

研究の動機と目的

• 極めて低い計算リソース予算（10–140 MFLOPs）下で、幅が狭いため情報容量が制限されるMobileNetの性能低下を是正すること。
• モデルの複雑さを増さずに、特にモバイルおよび組み込みデバイス上で推論速度と精度を向上させること。
• 計算リソースが制限される状況下で、MobileNetの遅いダウンサンプリングが性能を制限する問題を克服すること。
• 最先端の代替手法（例：ShuffleNet）よりも高速な実際の推論速度を実現しながら、高い精度を維持するコンactなネットワークを設計すること。

提案手法

• 標準のMobileNetが24層を要するのに対し、わずか12層で32倍の空間的ダウンサンプリングを実現する高速ダウンサンプリング戦略を導入する。
• 高速ダウンサンプリングの後続に深度可分畳み込みを適用し、表現能力を保持しながらFLOPsを削減する。
• 同じFLOP予算内で初期レイヤーのチャネル数を増加させ、情報容量を向上させる。
• 推論時のメモリおよびキャッシュ利用効率を確保するため、MobileNetの単純なスタッキングアーキテクチャを維持する。
• 早期に特徴マップの縮小を加速する修正されたネットワーク設計を採用し、深層部が空間計算を減らして高レベル表現に集中できるようにする。
• NCNN推論フレームワークを用いて、ARMベースのデバイス上での実際の推論速度最適化を実施する。

実験結果

リサーチクエスチョン

• RQ1 極めて低い計算リソース予算（10–140 MFLOPs）下で、高速ダウンサンプリング戦略がMobileNetの精度を向上させられるか？
• RQ2 早期の空間的縮小は、FLOPsを増やさずに情報容量と性能を向上させられるか？
• RQ3 実際のARMベースのモバイルデバイス上でのFD-MobileNetの推論速度は、MobileNetおよびShuffleNetと比べてどの程度か？
• RQ4 FD-MobileNetは、PASCAL VOC 2007でのオブジェクト検出タスクのような転移学習タスクにおいて、強力な一般化能力を維持できるか？
• RQ5 ShuffleNetはFLOP数が同程度であるにもかかわらず、実際の動作で性能が低下する理由は何か？そして、より単純なアーキテクチャがこの問題を緩和できるか？

主な発見

• 12 MFLOPsで、ImageNet ILSVRC 2012においてFD-MobileNetはMobileNetよりもトップ1精度で5.5%高い結果を達成した。
• PASCAL VOC 2007では、12 MFLOPsでFD-MobileNetはmAPをMobileNetよりも3.6%向上させ、ボトルやチェアといった難易度の高いクラスにおいても一貫した向上を示した。
• ARMベースのデバイス上では、FD-MobileNetはMobileNetよりも1.11倍速く、ShuffleNetよりも1.82倍速い推論速度を実現した。
• 140 MFLOPsでShuffleNet 0.5×よりも高いFLOPsを有するにもかかわらず、効率的なメモリおよびキャッシュ使用のおかげで、FD-MobileNetは1.33倍速い。
• 高速ダウンサンプリング戦略により、同じFLOP予算下でもより高いチャネル容量を実現でき、低複雑度環境下での性能向上に直接寄与した。
• FD-MobileNetは転移学習において強力な一般化能力を示し、PASCAL VOC 2007の大多数のクラスでMobileNetを上回った。特に低複雑度設定下で顕著な優位性を示した。