[論文レビュー] InsectMamba: Insect Pest Classification with State Space Model

Qianning Wang, Chenglin Wang+2 more|arXiv (Cornell University)|Apr 4, 2024

Species Distribution and Climate Change被引用数 8

ひとこと要約

InsectMamba は Mix-SSM ブロック内で State Space Models を CNN、MSA、MLP と融合し、選択的モジュールを追加して、五つのデータセットにわたる害虫の分類を改善し、強力なベースラインを上回る優れた結果を達成します。

ABSTRACT

The classification of insect pests is a critical task in agricultural technology, vital for ensuring food security and environmental sustainability. However, the complexity of pest identification, due to factors like high camouflage and species diversity, poses significant obstacles. Existing methods struggle with the fine-grained feature extraction needed to distinguish between closely related pest species. Although recent advancements have utilized modified network structures and combined deep learning approaches to improve accuracy, challenges persist due to the similarity between pests and their surroundings. To address this problem, we introduce InsectMamba, a novel approach that integrates State Space Models (SSMs), Convolutional Neural Networks (CNNs), Multi-Head Self-Attention mechanism (MSA), and Multilayer Perceptrons (MLPs) within Mix-SSM blocks. This integration facilitates the extraction of comprehensive visual features by leveraging the strengths of each encoding strategy. A selective module is also proposed to adaptively aggregate these features, enhancing the model's ability to discern pest characteristics. InsectMamba was evaluated against strong competitors across five insect pest classification datasets. The results demonstrate its superior performance and verify the significance of each model component by an ablation study.

研究の動機と目的

• 害虫分類におけるカモフラージュと高い種多様性に対処する。
• 局所特徴とグローバル特徴の両方を抽出するために補完的な視覚エンコード戦略を活用する。
• SSM、CNN、MSA、MLP を統合する Mix-SSM ブロックを導入する。
• 異なるエンコード戦略からの特徴を融合する適応的な Selective Module を開発する。
• 五つの害虫データセットで強力なベースラインを上回る優れた性能を示す。

提案手法

• SSM、CNN、MLP、MSA を統合して特徴抽出を行う Mix-SSM ブロックを提案する。
• 複数のエンコードからの特徴を適応的に重み付けして集約する Selective Module を導入する。
• 画像をパッチとして表現し、PatchEmbed を適用し、PatchMerging を伴う積み重ねられた Mix-SSM Block を通して処理する。
• Selective Module 内でグローバルプーリングと MLP を介してチャネル方向および空間注意を計算し、各エンコード戦略ごとのチャネルごとの重みを生成する。
• 五つの害虫データセットで訓練・評価を行い、ResNet、DeiT、Swin、Vmamba、およびベースラインと比較する。
• CNN、MLP、MSA コンポーネントの寄与を検証するアブレーション研究を実施する。

実験結果

リサーチクエスチョン

• RQ1 Mix-SSM ブロックは、SSM、CNN、MSA、MLP の特徴を効果的に統合して害虫分類を実現できるか？
• RQ2 Selective Module は、多様なデータセットにわたる多重エンコード特徴の適応的融合を改善するか？
• RQ3 個々のコンポーネント（CNN、MLP、MSA）が全体の性能とアブレーション結果に与える影響はどれくらいか？

主な発見

• InsectMamba は五つの害虫データセットで最先端の性能を達成し、ACC、Prec、Rec、F1 で強力なベースラインを上回る。
• Farm Insects では、InsectMamba は ACC 0.66、F1 0.65 を達成し、次点モデル Swin-B を約4ポイントの ACC で上回る。
• Agricultural Pests では、ACC 0.91、F1 0.91 を達成し、Vmamba-B を ACC で約2ポイント上回る。
• Insect Recognition では、ACC 0.86、F1 0.86 を達成し、強力なベースラインを上回る。
• Forestry Pest Identification では、ACC 0.94、F1 0.94 を達成し、列挙された手法の中で最高。
• IP102 では、ACC 0.43、F1 0.37 を達成し、前回の最良（Swin-B）の ACC 0.39 を上回る。