[论文解读] Deep-Wide Learning Assistance for Insect Pest Classification

Nguyen Duc Toan, Huy Nguyen+3 more|arXiv (Cornell University)|Sep 16, 2024

Smart Agriculture and AI被引用 4

一句话总结

本文提出 DeWi，一种新颖的一阶段深度广义学习框架，通过联合优化三元组边界损失以实现判别性特征学习，以及基于 Mixup 的数据增强以提升泛化能力，从而增强昆虫害虫分类性能。DeWi 在 IP102 上达到 76.44% 的准确率，在 D0 上达到 99.79% 的准确率，展现出最先进性能，其设计简洁、高效且与主干网络无关。

ABSTRACT

Accurate insect pest recognition plays a critical role in agriculture. It is a challenging problem due to the intricate characteristics of insects. In this paper, we present DeWi, novel learning assistance for insect pest classification. With a one-stage and alternating training strategy, DeWi simultaneously improves several Convolutional Neural Networks in two perspectives: discrimination (by optimizing a triplet margin loss in a supervised training manner) and generalization (via data augmentation). From that, DeWi can learn discriminative and in-depth features of insect pests (deep) yet still generalize well to a large number of insect categories (wide). Experimental results show that DeWi achieves the highest performances on two insect pest classification benchmarks (76.44\% accuracy on the IP102 dataset and 99.79\% accuracy on the D0 dataset, respectively). In addition, extensive evaluations and ablation studies are conducted to thoroughly investigate our DeWi and demonstrate its superiority. Our source code is available at https://github.com/toannguyen1904/DeWi.

研究动机与目标

• 解决由于类内方差高、类间方差低导致的细粒度昆虫害虫分类挑战。
• 在长尾数据分布和小样本外观条件下，提升模型在广泛害虫物种上的泛化能力。
• 开发一种轻量化、高效且与主干网络无关的学习框架，实现在单一训练阶段内同时增强特征判别力与泛化能力。
• 通过更简单、更实用的解决方案，超越现有集成模型或复杂架构，适用于实际智能农业部署。

提出的方法

• DeWi 采用一阶段训练策略，交替优化三元组边界损失以实现判别性特征学习，以及基于 Mixup 的数据增强以提升泛化能力。
• 三元组边界损失以监督方式应用，通过困难样本挖掘增强类间分离度与类内紧凑性。
• 采用 α=1.0 的 Mixup 方法生成均匀混合样本，提升模型在多样化害虫类别中的鲁棒性与泛化能力。
• 该框架兼容多种 CNN 主干网络（如 ResNet-152），实现广泛适用性，无需架构重构。
• 该方法避免使用复杂的集成模型或多分支网络，转而专注于高效联合优化判别性与泛化能力。
• 消融研究验证了损失与增强组件的有效性，包括批量大小与 α 超参数的敏感性。

实验结果

研究问题

• RQ1 一阶段训练策略能否有效平衡昆虫害虫分类中的深度特征学习与广泛泛化？
• RQ2 与基于自监督掩蔽预训练的对比方法相比，DeWi 联合优化三元组边界损失与 Mixup 的性能与效率如何？
• RQ3 在昆虫害虫识别背景下，Mixup 的最优超参数设置（α）与批量大小为何？
• RQ4 DeWi 在小批量设置下表现如何？其性能是否优于传统自监督预训练方法？
• RQ5 DeWi 在不同 CNN 主干网络与基准数据集上的性能提升程度如何？

主要发现

• 在 IP102 数据集上，DeWi 达到 76.44% 的准确率、69.46% 的 mF1 与 65.07% 的 GM，显著优于先前最先进方法。
• 在 D0 数据集上，DeWi 实现 99.79% 的准确率，展现出在高度细粒度基准上的卓越性能。
• 消融研究证实，α=1.0 时 Mixup 表现最佳，准确率达到 76.44%，优于 α=0.5 与 α=2.0。
• DeWi 在不同批量大小（32、24、16、8）下均保持强劲性能，即使在小批量下也表现出强鲁棒性。
• 与自监督掩蔽预训练设置相比，DeWi 在准确率上高出 13.36 个百分点，mF1 高出 15.74 个百分点，GM 高出 20.26 个百分点，凸显其一阶段方法的优越性。
• 该方法在多种 CNN 主干网络上均有效，且表现一致提升，验证了其灵活性与泛化能力。