[論文レビュー] DCANet: Learning Connected Attentions for Convolutional Neural Networks

Xu Ma, Jingda Guo+5 more|arXiv (Cornell University)|Jul 9, 2020

Advanced Neural Network Applications参考文献 39被引用数 7

ひとこと要約

DCANet は、畳み込みニューラルネットワーク内の隣接する注目ブロックを接続する新しい注目メカニズムを導入し、ネットワークアーキテクチャを変更せずに注目学習を顕著に向上させる。クロス注目接続を通じて注目ブロックを共同で訓練することで、DCANet は計算コストの増加を最小限に抑えながら ImageNet および MS COCO で最先端の性能を達成し、常に既存の注目モジュールを上回る。

ABSTRACT

While self-attention mechanism has shown promising results for many vision tasks, it only considers the current features at a time. We show that such a manner cannot take full advantage of the attention mechanism. In this paper, we present Deep Connected Attention Network (DCANet), a novel design that boosts attention modules in a CNN model without any modification of the internal structure. To achieve this, we interconnect adjacent attention blocks, making information flow among attention blocks possible. With DCANet, all attention blocks in a CNN model are trained jointly, which improves the ability of attention learning. Our DCANet is generic. It is not limited to a specific attention module or base network architecture. Experimental results on ImageNet and MS COCO benchmarks show that DCANet consistently outperforms the state-of-the-art attention modules with a minimal additional computational overhead in all test cases. All code and models are made publicly available.

研究の動機と目的

• 既存の自己注目メカニズムが各注目ブロックを独立して扱い、ブロック間の協調を無視するという制限を解消すること。
• 専用の接続を通じて隣接する注目ブロック間の情報伝達を可能にすることで、注目学習の能力を向上させること。
• 内部構造を変更せずにさまざまな注目モジュール（例：SENet、CBAM、GCNet）を強化できる汎用的でアーキテクチャに依存しない手法を開発すること。
• ImageNet の分類および MS COCO のオブジェクト検出を含む複数のベンチマークで一貫した性能向上を示すこと。
• 残差ショートカットとは異なり、注目接続が注目学習を能動的にガイドし、識別能を向上させることを検証すること。

提案手法

• 隣接する注目ブロック間の接続チェーンを導入し、各ブロックが現在の特徴マップに加えて前の注目マップにも注目できるようにする。
• 現在の特徴マップと前の注目マップを学習可能な重みで融合する微分可能注目接続メカニズムを提案する。
• 残差的な接続を注目ブロックに採用するが、ResNet のショートカットとは異なり、特徴マップではなく注目ガイドランスを伝える。
• 学習可能なゲートメカニズムを用いて、前の注目の寄与比を β/(α+β) で制御し、適応的融合を可能にする。
• アーキテクチャの変更なしに、さまざまな注目モジュール（SENet、CBAM、GCNet、SKNet）およびベースネットワーク（ResNet、MobileNet、DenseNet）に普遍的に適用する。
• すべての注目ブロックをエンドツーエンドのバックプロパゲーションにより同時に訓練し、ネットワーク全体で協調学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 注目ブロック間の通信は、CNN における自己注目メカニズムの表現能力を向上させることができるか？
• RQ2 注目ブロックを接続することで、独立した注目モジュールと比較して、特徴の識別能や注目集中が向上するか？
• RQ3 汎用的でプラグアンドプレイなモジュールが、アーキテクチャの変更なしに多様な注目メカニズムおよびベースアーキテクチャを強化できるか？
• RQ4 異なる層やモジュールにおいて、前の注目マップの寄与比が現在の注目学習にどのように影響するか？
• RQ5 提案された注目接続メカニズムは、画像分類やオブジェクト検出のようなさまざまなビジョンタスクに一般化可能か？

主な発見

• DCANet は、パラメータ数と FLOPs の増加をほとんど認めない状態で、SE-MobileNetV2 の ImageNet Top-1 精度を 1.19% 向上させた。
• MS COCO のオブジェクト検出において、DCA-SE-ResNet50 は RetinaNet で SE-ResNet50 より +0.3% AP 50:95 を達成し、DCA-GC-ResNet50 は Cascade R-CNN で +0.3% AP 50:95 を向上させた。
• DCANet の注目マップ分布は、元の SE-ResNet50 よりも 0.5 付近に集中しにくく、より均一になったことから、注目識別能の向上が示された。
• すべての接続において、前の注目マップの寄与比が 0 を超え続けていることから、過去の注目が常に現在の注目学習をガイドしていることが確認された。
• ResNet50 の Stage 3 において、寄与比が安定化していることから、DCANet が深層部の特徴学習を最も顕著に向上させていることが示された。
• 可視化結果から、DCA を適用したモデルは、段階を経るごとに徐々にターゲットオブジェクトに注目を集中させるのに対し、元のモデルは段階を経て不規則に注目を移動させるのと対照的であった。