[論文レビュー] Merging and Evolution: Improving Convolutional Neural Networks for Mobile Applications

Zheng Qin, Zhaoning Zhang+3 more|arXiv (Cornell University)|Mar 24, 2018

Advanced Neural Network Applications参考文献 25被引用数 3

ひとこと要約

本論文では、モバイルアプリケーション向けのコンactな畳み込みニューラルネットワークのファミリーであるMENetと、Merging-and-Evolution（ME）モジュールを提案する。相互にグループ間の特徴情報を符号化するためのマージングと、空間的パターンを抽出するためのエボリューションを導入することで、グループ畳み込みに起因する性能劣化を顕著に低減し、計算コストが厳しい制約下でも最先端の精度を達成した。140 MFLOPsにおけるPASCAL VOC 2007 mAPでは、ShuffleNet や MobileNet を最大4.1%上回った。

ABSTRACT

Compact neural networks are inclined to exploit "sparsely-connected" convolutions such as depthwise convolution and group convolution for employment in mobile applications. Compared with standard "fully-connected" convolutions, these convolutions are more computationally economical. However, "sparsely-connected" convolutions block the inter-group information exchange, which induces severe performance degradation. To address this issue, we present two novel operations named merging and evolution to leverage the inter-group information. Our key idea is encoding the inter-group information with a narrow feature map, then combining the generated features with the original network for better representation. Taking advantage of the proposed operations, we then introduce the Merging-and-Evolution (ME) module, an architectural unit specifically designed for compact networks. Finally, we propose a family of compact neural networks called MENet based on ME modules. Extensive experiments on ILSVRC 2012 dataset and PASCAL VOC 2007 dataset demonstrate that MENet consistently outperforms other state-of-the-art compact networks under different computational budgets. For instance, under the computational budget of 140 MFLOPs, MENet surpasses ShuffleNet by 1% and MobileNet by 1.95% on ILSVRC 2012 top-1 accuracy, while by 2.3% and 4.1% on PASCAL VOC 2007 mAP, respectively.

研究の動機と目的

• グループ畳み込みおよびディープワイド畳み込みにおけるグループ間情報損失によって引き起こされるコンパクトなCNNの性能劣化を是正すること。
• 計算コストを増加させることなく、チャネルグループ間の特徴融合を可能にする効率的なアーキテクチャ的演算を開発すること。
• モバイルデプロイメントに適した厳密なFLOP制約下でも高い精度を維持できる、MENetという新しいニューラルアーキテクチャを設計すること。
• 特にオブジェクト検出タスクにおいて、転移学習のシナリオにおける一般化性能を向上させること。
• チャネルグループ数を増加させても効果が薄くなるという問題を抱える既存手法（例：ShuffleNet）の限界を克服すること。

提案手法

• マージング演算は、同じ空間的位置にあるすべてのチャネルの特徴を狭い特徴マップに集約し、グループ間の情報を符号化する。
• エボリューション演算は、マージドされた狭い特徴マップから空間的パターンを抽出するために、ディープワイド畳み込みとポイントワイド畳み込みを適用する。
• MEモジュールは、マージングとエボリューションを1つの残差型ブロックに統合し、計算効率を高めるためにディープワイド畳み込みとグループ畳み込みを用いる。
• 特徴融合は、加算ではなく要素ごとの積（スケーリング）を用いることで、より効果的なグループ間表現学習を可能にする。
• MEモジュールを階層的なネットワークアーキテクチャにスタックし、後段の段階でチャネル数を増加させることで表現能力を強化する。
• オブジェクト検出タスクにおける転移学習のために、事前学習済みのMENetモデルをFaster R-CNNとRoIアライニングを用いて微調整する。

実験結果

リサーチクエスチョン

• RQ1 グループ畳み込みおよびディープワイド畳み込みに依存するコンパクトなCNNにおいて、どのようにしてグループ間の情報を効果的に回復できるか？
• RQ2 グループ間特徴融合において、要素ごとの加算を要素ごとの積に置き換えると、性能にどのような影響を与えるか？
• RQ3 ShuffleNetのチャネルシャッフルのような既存のモジュールと比較して、提案されたMEモジュールは、精度と効率の面でどのように優れているか？
• RQ4 MENetは、低FLOP予算下でも、オブジェクト検出のような下流タスクに一般化しやすいか？
• RQ5 MENetにおけるチャネルグループ数の増加は、ShuffleNetとは異なり、一貫した性能向上をもたらすか？

主な発見

• 140 MFLOPsにおいて、MENetはILSVRC 2012で65.9%のトップ-1精度を達成し、ShuffleNet（64.9%）を1%、MobileNet（63.95%）を1.95%上回った。
• PASCAL VOC 2007オブジェクト検出タスクにおいて、140 MFLOPsで58.9%のmAPを達成し、ShuffleNet（56.6%）を2.3%、MobileNet（54.8%）を4.1%上回った。
• 「boat」クラスという挑戦的なクラスにおいて、140 MFLOPsでMENetはShuffleNetに対して6.9%、MobileNetに対して4.2%のmAP向上を達成した。
• 550 MFLOPsでは、mAPにおいてShuffleNetを2%、MobileNetを3.1%上回り、さまざまな計算予算下でも一貫した性能向上を示した。
• チャネル数が4のとき、要素ごとの積を用いた融合は、要素ごとの加算よりも1.05%高い精度を達成した。これは、より優れた表現学習を可能にしている。
• ShuffleNetとは異なり、MENetはチャネルグループ数を増加させても性能劣化を示さず、一貫した性能向上を維持した。