[논문 리뷰] InsectMamba: Insect Pest Classification with State Space Model

Qianning Wang, Chenglin Wang외 2명|arXiv (Cornell University)|2024. 04. 04.

Species Distribution and Climate Change인용 수 8

한 줄 요약

InsectMamba는 Mix-SSM 블록에서 State Space Models를 CNN, MSA, MLP와 결합하고 선택적 모듈을 추가하여 다섯 개 데이터셋에 걸친 해충 해충 분류를 개선하고 강력한 베이스라인을 상회하는 우수한 성능을 달성한다.

ABSTRACT

The classification of insect pests is a critical task in agricultural technology, vital for ensuring food security and environmental sustainability. However, the complexity of pest identification, due to factors like high camouflage and species diversity, poses significant obstacles. Existing methods struggle with the fine-grained feature extraction needed to distinguish between closely related pest species. Although recent advancements have utilized modified network structures and combined deep learning approaches to improve accuracy, challenges persist due to the similarity between pests and their surroundings. To address this problem, we introduce InsectMamba, a novel approach that integrates State Space Models (SSMs), Convolutional Neural Networks (CNNs), Multi-Head Self-Attention mechanism (MSA), and Multilayer Perceptrons (MLPs) within Mix-SSM blocks. This integration facilitates the extraction of comprehensive visual features by leveraging the strengths of each encoding strategy. A selective module is also proposed to adaptively aggregate these features, enhancing the model's ability to discern pest characteristics. InsectMamba was evaluated against strong competitors across five insect pest classification datasets. The results demonstrate its superior performance and verify the significance of each model component by an ablation study.

연구 동기 및 목표

• 해충 분류에서 위장 및 높은 종 다양성에 대응한다.
• 지역 특징과 전역 특징 모두를 추출하기 위한 상호 보완적인 시각 인코딩 전략을 활용한다.
• Mix-SSM 블록을 도입하여 SSM, CNN, MSA, MLP를 통합한다.
• 다른 인코딩 전략에서 나온 특징을 융합하기 위한 적응형 Selective Module을 개발한다.
• 다섯 개의 해충 데이터셋에서 강력한 베이스라인보다 우수한 성능을 입증한다.

제안 방법

• 특징 추출을 위해 SSM, CNN, MLP, MSA를 통합하는 Mix-SSM 블록을 제안한다.
• 여러 인코딩으로부터의 특징을 적응적으로 가중하고 융합하는 Selective Module를 도입한다.
• 이미지를 패치로 표현하고 PatchEmbed를 적용한 다음 PatchMerging이 있는 스택형 Mix-SSM Blocks를 통해 처리한다.
• Selective Module 내에서 글로벌 풀링과 MLP를 통해 채널 단위 및 공간 주의를 계산하고 각 인코딩 전략에 대한 채널별 가중치를 산출한다.
• 다섯 개의 해충 데이터셋에 대해 학습 및 평가를 수행하고 ResNet, DeiT, Swin, Vmamba 및 베이스라인과 비교한다.
• CNN, MLP, MSA 구성 요소의 기여를 검증하기 위한 제거 연구를 수행한다.

실험 결과

연구 질문

• RQ1 Mix-SSM 블록이 SSM, CNN, MSA, MLP 특징을 해충 해충 분류에 효과적으로 통합할 수 있는가?
• RQ2 Selective Module이 다양한 데이터셋에서 다중 인코딩 특징의 적응적 융합을 향상시키는가?
• RQ3 개별 구성 요소(CNN, MLP, MSA)가 전반적인 성능 및 ablation 결과에 어떤 영향을 미치는가?

주요 결과

• InsectMamba는 다섯 개의 해충 데이터셋에서 최첨단 성능을 달성하며 ACC, Prec, Rec, F1에서 강력한 베이스라인을 능가한다.
• Farm Insects에서 InsectMamba는 ACC 0.66 및 F1 0.65를 달성하며, 다음으로 좋은 모델 Swin-B보다 ACC에서 약 4퍼센트 포인트 우수하다.
• Agricultural Pests에서 InsectMamba는 ACC 0.91 및 F1 0.91을 달성하고 ACC에서 Vmamba-B를 약 2퍼센트 포인트 상회한다.
• Insect Recognition에서 InsectMamba는 ACC 0.86 및 F1 0.86을 달성하며 강력한 베이스라인을 능가한다.
• Forestry Pest Identification에서 InsectMamba는 ACC 0.94 및 F1 0.94로 listed 방법들 중 최상위이다.
• IP102에서 InsectMamba는 ACC 0.43 및 F1 0.37를 달성하여 ACC 0.39인 이전 최적(Swin-B)보다 향상되었다。）