[論文レビュー] MOAT: Alternating Mobile Convolution and Attention Brings Strong Vision Models

Chenglin Yang, Siyuan Qiao+6 more|arXiv (Cornell University)|Oct 4, 2022

Advanced Neural Network Applications被引用数 22

ひとこと要約

MOATはモバイル畳み込みと自己注意を1つのMOATブロックに統合し、分類、検出、セグメンテーションの強力なビジョモデルを生み出し、性能と効率の競争力を実現します。

ABSTRACT

This paper presents MOAT, a family of neural networks that build on top of MObile convolution (i.e., inverted residual blocks) and ATtention. Unlike the current works that stack separate mobile convolution and transformer blocks, we effectively merge them into a MOAT block. Starting with a standard Transformer block, we replace its multi-layer perceptron with a mobile convolution block, and further reorder it before the self-attention operation. The mobile convolution block not only enhances the network representation capacity, but also produces better downsampled features. Our conceptually simple MOAT networks are surprisingly effective, achieving 89.1% / 81.5% top-1 accuracy on ImageNet-1K / ImageNet-1K-V2 with ImageNet22K pretraining. Additionally, MOAT can be seamlessly applied to downstream tasks that require large resolution inputs by simply converting the global attention to window attention. Thanks to the mobile convolution that effectively exchanges local information between pixels (and thus cross-windows), MOAT does not need the extra window-shifting mechanism. As a result, on COCO object detection, MOAT achieves 59.2% box AP with 227M model parameters (single-scale inference, and hard NMS), and on ADE20K semantic segmentation, MOAT attains 57.6% mIoU with 496M model parameters (single-scale inference). Finally, the tiny-MOAT family, obtained by simply reducing the channel sizes, also surprisingly outperforms several mobile-specific transformer-based models on ImageNet. The tiny-MOAT family is also benchmarked on downstream tasks, serving as a baseline for the community. We hope our simple yet effective MOAT will inspire more seamless integration of convolution and self-attention. Code is publicly available.

研究の動機と目的

• 視覚タスクのための畳み込みブロックと注意ベースのブロックのシンプルでありながら効果的な統合を動機づける。
• TransformerブロックのMLPをMBConvに置換し、深さ方向ダウンサンプリングを割り当てるための再配置でマイクロアーキテクチャ設計を調査する。
• 大規模事前学習の有無にかかわらずImageNet分類におけるMOATバリアントを評価する。
• 高解像度入力を必要とする下流タスク（COCO物体検出とADE20Kセグメンテーション）でMOATの性能を評価する。

提案手法

• inverted bottleneck を強調し、局所情報とグローバル情報処理をハイライトしMBConvブロックとTransformerブロックを定義する。
• TransformerのMLPをMBConv（SEなし）に置換し、下サンプリングをDepthwise畳み込みに委任するためにMBConvを自己注意の前に配置するMOATを提案する。
• 畳み込み幹、MBConv、MOATブロックを用いたMOATベースのメタアーキテクチャを設計し、CoAtNet-1に類似したレイアウトに従う。
• MOATバリアントをブロック数とチャネル数を調整してスケールさせ、MOAT-0…MOAT-4とtiny-MOATバリアントを作成する。
• ImageNet-1KとImageNet-22Kの事前学習で評価し、次にCOCOとADE20Kへ転移し、Large inputsにはローカルウィンドウアテンションを適用する。
• 最先端のConvNets、ViTs、ハイブリッドと比較して、パラメータ/計算効率と精度の向上を示す。

実験結果

リサーチクエスチョン

• RQ1 単一のMOATブロックは追加のダウンサンプリングモジュールなしでMBConvとTransformerブロックの長所を効果的に統合できるか？
• RQ2 MBConvを自己注意の前に再配置することでダウンサンプリング品質と全体的な表現容量は向上するか？
• RQ3 ImageNetと下流タスクでの精度とパラメータ/ FLOPsの観点でMOATバリアントはどのようにスケールするか？

主な発見

• MOATは22Kの事前学習後にImageNet-1Kでトップ1 89.1%、ImageNet-1K-V2で81.5%を達成。
• MOATは同等のモデルサイズでImageNet-1Kにおいて大規模事前学習有無を問わず、競合するハイブリッドや純粋なViT/ConvNetベースラインを上回る。
• COCO物体検出で59.2% APボックス、パラメータは227M（単一スケール、Hard NMS）。
• ADE20Kセグメンテーションで57.6% mIoU、496Mパラメータ（単一スケール）。
• Tiny-MOATバリアントでもImageNetでモバイル向けトランスフォーマーモデルのいくつかを上回る。