[論文レビュー] A free lunch from ViT:Adaptive Attention Multi-scale Fusion Transformer for Fine-grained Visual Recognition

Yuan Zhang, Jian Cao+5 more|arXiv (Cornell University)|Oct 4, 2021

Advanced Neural Network Applications被引用数 13

ひとこと要約

本論文では、選択的注意収集モジュール（SACM）を用いて、複数スケールの特徴を動的に統合することで、細粒度視覚認識を向上させる、ビジョントランスフォーマーに基づく新規モデルAFTransを提案する。注意重みを活用して関連するパッチを動的に強調することで、ボックスアノテーションを必要とせず、グローバルおよびローカル表現を捉えることができ、CUB-200-2011、Stanford Dogs、iNat2017ベンチマークで最先端の性能を達成した。

ABSTRACT

Learning subtle representation about object parts plays a vital role in fine-grained visual recognition (FGVR) field. The vision transformer (ViT) achieves promising results on computer vision due to its attention mechanism. Nonetheless, with the fixed size of patches in ViT, the class token in deep layer focuses on the global receptive field and cannot generate multi-granularity features for FGVR. To capture region attention without box annotations and compensate for ViT shortcomings in FGVR, we propose a novel method named Adaptive attention multi-scale Fusion Transformer (AFTrans). The Selective Attention Collection Module (SACM) in our approach leverages attention weights in ViT and filters them adaptively to correspond with the relative importance of input patches. The multiple scales (global and local) pipeline is supervised by our weights sharing encoder and can be easily trained end-to-end. Comprehensive experiments demonstrate that AFTrans can achieve SOTA performance on three published fine-grained benchmarks: CUB-200-2011, Stanford Dogs and iNat2017.

研究の動機と目的

• 細粒度視覚認識のための複数スケール特徴を捉える能力に制限があるビジョントランスフォーマーの課題に対処すること。
• 境界ボックスアノテーションを必要とせず、グローバルおよびローカル受容場のエンドツーエンド学習を可能にすること。
• 異なるスケールからの注意マップを適応的にフィルタリングおよび統合することで、特徴表現を向上させること。
• 既存のViTアーキテクチャにスムーズに統合できる軽量で学習可能なモジュールを設計すること。

提案手法

• 選択的注意収集モジュール（SACM）は、各パッチの相対的重要性に基づいて、ViTからの注意重みを適応的にフィルタリングし、重要なパッチを強調する。
• SACMをViTエンコーダーの異なる層に適用することで、グローバルおよびローカルの複数スケールが生成される。
• 重み共有エンコーダーを用いてマルチスケールパイプラインを監視し、最小限の追加パラメータでエンドツーエンド学習を可能にする。
• ViTの自己注意メカニズムを活用して、元のアーキテクチャを大幅に変更せずに階層的表現を抽出する。
• 多スケール特徴の統合は、判別力の向上を図るための学習可能な注意ベースの集約メカニズムによって行われる。
• 標準的なクロスエントロピー損失を用いて、標準的な細粒度ベンチマークでエンドツーエンドでモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 適応的注意メカニズムは、細粒度視覚認識のための特徴表現を向上させることができるか？
• RQ2 境界ボックスアノテーションに依存せずに、多スケール特徴を効果的に統合する方法は何か？
• RQ3 ローカルおよびグローバルコンテキストを同時に捉える能力を向上させるために、軽量なモジュールを設計できるか？
• RQ4 提案手法は、標準的な細粒度ベンチマークで最先端の性能を達成するか？

主な発見

• AFTransは、境界ボックスアノテーションを一切使用せずに、CUB-200-2011ベンチマークで最先端の精度を達成した。
• Stanford Dogsデータセットでは、AFTransは既存のトランスフォーマー基盤モデルを大幅に上回るトップ-1精度を達成した。
• iNat2017ベンチマークでも競争力のある性能を示し、多様な細粒度カテゴリへの汎用性を実証した。
• アブレーションスタディの結果、SACMモジュールおよび多スケール統合が性能向上に顕著に寄与することが確認され、設計選択の妥当性が裏付けられた。
• この成果は、最小限のアーキテクチャ変更と追加の監視なしに達成されており、手法の効率性と有効性を示している。