[論文レビュー] Inverted Residuals and Linear Bottlenecks: Mobile Networks for Classification, Detection and Segmentation

Andrew Howard, Andrey Zhmoginov+3 more|arXiv (Cornell University)|Jan 13, 2018

Advanced Neural Network Applications参考文献 8被引用数 712

ひとこと要約

この論文では、逆残差構造と線形ボトルネックを特徴とする、モバイル環境に最適化されたニューラルネットワークアーキテクチャ、MobileNetV2を紹介している。深度分離畳み込みを用い、狭いボトルネック層での非線形関数を排除することで、計算コストを低減しながらも精度を向上させている。MobileNetV2は、パラメータ数と乗算加算演算（MAdd）を減らしながらも、ImageNet、COCO検出、VOCセマンティックセグメンテーションの各タスクで最先端の性能を達成している。

ABSTRACT

In this paper we describe a new mobile architecture, MobileNetV2, that improves the state of the art performance of mobile models on multiple tasks and benchmarks as well as across a spectrum of different model sizes. We also describe efficient ways of applying these mobile models to object detection in a novel framework we call SSDLite. Additionally, we demonstrate how to build mobile semantic segmentation models through a reduced form of DeepLabv3 which we call Mobile DeepLabv3. The MobileNetV2 architecture is based on an inverted residual structure where the input and output of the residual block are thin bottleneck layers opposite to traditional residual models which use expanded representations in the input an MobileNetV2 uses lightweight depthwise convolutions to filter features in the intermediate expansion layer. Additionally, we find that it is important to remove non-linearities in the narrow layers in order to maintain representational power. We demonstrate that this improves performance and provide an intuition that led to this design. Finally, our approach allows decoupling of the input/output domains from the expressiveness of the transformation, which provides a convenient framework for further analysis. We measure our performance on Imagenet classification, COCO object detection, VOC image segmentation. We evaluate the trade-offs between accuracy, and number of operations measured by multiply-adds (MAdd), as well as the number of parameters

研究の動機と目的

• リソース制約のある環境向けに、より効率的かつ高精度なモバイルニューラルネットワークアーキテクチャの開発を目的とする。
• モバイルプラットフォーム上で、画像分類、物体検出、セマンティックセグメンテーションの複数のタスクにおける性能を向上させることを目的とする。
• 乗算加算演算（MAdd）とモデルパラメータ数を減らすことで、計算コストを低減するが、精度を損なわないようにすることを目的とする。
• 入力／出力ドメインと変換の表現力の分離を可能にするアーキテクチャ設計の選択肢を調査し、より良いモデル解析を可能とすることを目的とする。

提案手法

• 従来の残差ネットワークとは対照的に、入力および出力でボトルネック層が薄く、中間部で特徴を拡張する「逆残差ブロック構造」を提案する。
• 中間の拡張層で深度分離畳み込みを採用し、計算量を削減しつつ特徴を効率的にフィルタリングする。
• 狭いボトルネック層での非線形活性化関数を削除することで、表現力の保持と特徴学習の向上を図る。
• 最終的な投影に線形変換を用いる「線形ボトルネック設計」を導入し、特徴の整合性を維持する。
• モバイルフレンドリーな設計原則を統合した新しいフレームワーク「SSDLite」を用いて、MobileNetV2を物体検出に応用する。
• 効率性を維持するため、DeepLabv3の簡略化形である「Mobile DeepLabv3」として、セマンティックセグメンテーションへの適応を試みる。

実験結果

リサーチクエスチョン

• RQ1 FLOPsとパラメータ数を最小限に抑えながら、高い精度を達成できるモバイルニューラルネットワークアーキテクチャはどのように設計できるか？
• RQ2 低リソース環境での効率的な特徴表現を可能にするアーキテクチャ的要素は何か？
• RQ3 なぜボトルネック層での非線形関数の削除がモバイルモデルの性能向上に寄与するのか？
• RQ4 逆残差構造に線形ボトルネックを組み合わせることで、画像分類、検出、セグメンテーションといった複数のビジョンタスクに一般化可能か？
• RQ5 入力／出力ドメインと変換の表現力の分離が、モデル性能とアーキテクチャ設計の柔軟性に与える影響は何か？

主な発見

• MobileNetV2は、3000万未満の乗算加算演算（MAdd）でImageNet分類タスクで最先端の精度を達成した。
• モデルは250万パラメータ、3億MAddでImageNetで71.2％のトップ-1精度を達成し、以前のモバイルモデルを上回った。
• MobileNetV2を基盤とする検出フレームワーク「SSDLite」は、遅延とモデルサイズを低減しながらも、COCO物体検出で競争力のある性能を示した。
• 計算コストを最小限に抑えた軽量なセグメンテーションバージョン「Mobile DeepLabv3」は、VOCセマンティックセグメンテーションで優れた性能を示した。
• ボトルネック層での非線形関数の削除により、評価されたすべてのタスクで表現力が向上し、明確な精度向上が得られた。
• 逆残差構造に線形ボトルネックを組み合わせることで、より良い特徴学習と効率的なパラメータ使用が可能となり、モバイルおよびエッジデバイスへのデプロイに適している。