[論文レビュー] Gather-Excite: Exploiting Feature Context in Convolutional Neural Networks

Jie Hu, Li Shen+3 more|arXiv (Cornell University)|Oct 29, 2018

Advanced Neural Network Applications参考文献 29被引用数 386

ひとこと要約

The paper introduces Gather-Excite (GE) modules that harvest broad feature context and reweight feature maps in CNNs, delivering noticeable accuracy gains with minimal parameter overhead across ImageNet, CIFAR, and object detection tasks, and demonstrating complementary gains to deeper networks.

ABSTRACT

While the use of bottom-up local operators in convolutional neural networks (CNNs) matches well some of the statistics of natural images, it may also prevent such models from capturing contextual long-range feature interactions. In this work, we propose a simple, lightweight approach for better context exploitation in CNNs. We do so by introducing a pair of operators: gather, which efficiently aggregates feature responses from a large spatial extent, and excite, which redistributes the pooled information to local features. The operators are cheap, both in terms of number of added parameters and computational complexity, and can be integrated directly in existing architectures to improve their performance. Experiments on several datasets show that gather-excite can bring benefits comparable to increasing the depth of a CNN at a fraction of the cost. For example, we find ResNet-50 with gather-excite operators is able to outperform its 101-layer counterpart on ImageNet with no additional learnable parameters. We also propose a parametric gather-excite operator pair which yields further performance gains, relate it to the recently-introduced Squeeze-and-Excitation Networks, and analyse the effects of these changes to the CNN feature activation statistics.

研究の動機と目的

• CNN の局所受容野を超えた文脈活用を改善する必要性を動機づける。
• gathers operator と excite operator からなる軽量な GE フレームワークを提案する。
• Architectures と datasets across にわたるパラメータ非依存およびパラメータ化 GE の variants を示す。
• GE が学習表現、収束性、および特徴の再利用性に与える影響を分析する。

提案手法

• GE フレームワークを定義する。大きな空間的範囲で特徴応答を集約する gather operator を用意する。
• gathered context に基づいて入力特徴を調整する excite operator を定義する。
• 平均プーリングと補間を用いたパラメータなし GE (GE-θ−) を実装し、深さ方向畳み込みとチャネルサブネットワークを用いた興奮を持つパラメータ化 GE (GE-θ, GE-θ+) を実装する。
• ResNet-50/101 および他のバックボーンに GE ブロックを様々な段階で組み込み、性能、効率性、段階別の影響を評価する。
• ImageNet、CIFAR-10/100、および MS COCO object detection において GE 変種を Squeeze-and-Excitation (SE) ネットワークおよびより深いベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 単純で文脈を統合する GE モジュールを導入することは、局所的な特徴の意思決定を超えて CNN の性能を向上させるか。
• RQ2 パラメータなしとパラメータ化 GE の変種は、精度、計算量、パラメータ数の点でどう比較されるか。
• RQ3 ネットワーク内のどの段階（どのステージ）で GE モジュールが最も効果を発揮するか。
• RQ4 GE は深さ、アーキテクチャ、およびデータセットの規模（ImageNet、CIFAR、COCO）とどのように相互作用するか。

主な発見

• GE はグローバルな範囲を持つ GE-θ− により ResNet-50 のトップ1エラーを 23.30% から 22.14% に改善し、ResNet-101 の性能に近づく。
• パラメータ化 GE (GE-θ) は GE-θ− よりさらに利益をもたらし、たとえば ResNet-50 で 22.00% トップ1対 23.30% のベースライン、FLOPs の増加は控えめ。
• GE-θ+（強化された興奮）と GE-θ を組み合わせると ImageNet 上で 21.88% トップ1 を達成し（ResNet-50）、より低い複雑さで 152 層の ResNet に匹敵する精度を実現。
• GE の変種は深いバックボーン（GE-θ−/GE-θ/GE-θ+）へ転移する利得を提供し、ResNet-101 に対して深さと相補的な改善を示す。
• ShuffleNet や他のリソース制約のあるアーキテクチャでは GE-θ+ が強力な利得をもたらし（例：CIFAR-10/100 の改善）、限られたパラメータ予算下で効果を発揮。
• オブジェクト検出（MS COCO）では ResNet-50 を GE-θ バックボーンに置換すると mAP が 27.3 から 28.6 に改善。