[論文レビュー] EPSANet: An Efficient Pyramid Split Attention Block on Convolutional Neural Network

Hu Zhang, Keke Zu+3 more|arXiv (Cornell University)|May 30, 2021

Advanced Neural Network Applications参考文献 39被引用数 42

ひとこと要約

本論文では、ResNetのボトルネックブロックを効率的ピラミッドスクィーズアテンション（EPSA）モジュールに置き換えることで構築された軽量で効率的なバックボーンアーキテクチャ、EPSANetを提案する。EPSAブロックは、マルチスケール特徴表現を強化する新しいピラミッドスクィーズアテンション（PSA）機構を用いる。これにより、追加の装飾なしに最先端の性能向上が達成され、ImageNetではTop-1精度が+1.93%向上、MS-COCOオブジェクト検出では+2.7 box AP、インスタンスセグメンテーションでは+1.7 mask APが達成された。

ABSTRACT

Recently, it has been demonstrated that the performance of a deep convolutional neural network can be effectively improved by embedding an attention module into it. In this work, a novel lightweight and effective attention method named Pyramid Squeeze Attention (PSA) module is proposed. By replacing the 3x3 convolution with the PSA module in the bottleneck blocks of the ResNet, a novel representational block named Efficient Pyramid Squeeze Attention (EPSA) is obtained. The EPSA block can be easily added as a plug-and-play component into a well-established backbone network, and significant improvements on model performance can be achieved. Hence, a simple and efficient backbone architecture named EPSANet is developed in this work by stacking these ResNet-style EPSA blocks. Correspondingly, a stronger multi-scale representation ability can be offered by the proposed EPSANet for various computer vision tasks including but not limited to, image classification, object detection, instance segmentation, etc. Without bells and whistles, the performance of the proposed EPSANet outperforms most of the state-of-the-art channel attention methods. As compared to the SENet-50, the Top-1 accuracy is improved by 1.93% on ImageNet dataset, a larger margin of +2.7 box AP for object detection and an improvement of +1.7 mask AP for instance segmentation by using the Mask-RCNN on MS-COCO dataset are obtained. Our source code is available at:this https URL.

研究の動機と目的

• 深層畳み込みニューラルネットワークにおけるより効果的で効率的なアテンション機構の開発を目的とし、特徴表現の向上を図る。
• 既存のチャネルアテンションモジュールがマルチスケールの空間的およびチャネル的依存関係を捉えることにおける限界を解決すること。
• アーキテクチャの大幅な見直しやハイパーパrameterチューニングなしに、バックボーンネットワークを強化できる即席可能なブロックの設計。
• 最小限の計算コストで標準ベンチマークにおいて最先端のパフォーマンスを達成すること。
• 分類、検出、インスタンスセグメンテーションを含む多様なコンピュータビジョンタスクにおける一貫した性能向上を示すこと。

提案手法

• ResNetボトルネックブロック内の3x3畳み込みを置き換えるピラミッドスクィーズアテンション（PSA）モジュールを提案する。
• 並列ピラミッドプーリングを通じて空間的およびチャネル的依存関係を捉えるマルチスケール特徴集約機構を導入する。
• 異なるスケールにおける情報的な特徴を動的に強調するための学習可能なアテンション重み付け機構を採用する。
• 残差学習を保持しつつ、PSAモジュールを残差ブロック構造に統合することでEPSAブロックを構築する。
• エンドツーエンド学習を可能にするために、複数のEPSAブロックをResNetスタイルのバックボーンにスタックしてEPSANetを設計する。
• パラメータ効率的で計算効率を維持しつつ表現力の向上を実現するシンプルで軽量なアーキテクチャを採用する。

実験結果

リサーチクエスチョン

• RQ1 より効果的なアテンション機構は、モデルの複雑さを増さずに深層CNNの性能を向上させることができるか？
• RQ2 提案されたピラミッドアテンション機構は、既存のチャネルアテンションモジュールと比較して、マルチスケール特徴を捉える上でどのように優れているか？
• RQ3 EPSAブロックは、分類、検出、セグメンテーションといった多様なビジョンタスクにおいて、どの程度モデルの精度を向上させることができるか？
• RQ4 EPSAブロックの即席性は、異なるバックボーンアーキテクチャにおいて一貫した性能向上をもたらすか？
• RQ5 SOTAモデル（例：SENet-50）と比較して、EPSANetの標準ベンチマークにおけるパフォーマンス向上はどの程度か？

主な発見

• EPSANetはImageNetデータセットにおいてSENet-50よりもTop-1精度が1.93%高い。
• Mask R-CNNを用いた場合、MS-COCOデータセットでのオブジェクト検出性能が+2.7 box AP向上した。
• 同じMask R-CNNフレームワークを用いたインスタンスセグメンテーションタスクにおいて、+1.7 mask APの向上を達成した。
• 追加のデータオーグメンテーション、トレーニングテクニック、アーキテクチャの変更なしに性能向上を達成した。
• 提案されたEPSAブロックは軽量であり、既存のResNetスタイルのバックボーンにシームレスに統合可能である。
• 分類、検出、セグメンテーションを含む複数のコンピュータビジョンタスクにおいて一貫した顕著な向上を示し、その有効性と一般化能力を確認した。