[论文解读] EAutoDet: Efficient Architecture Search for Object Detection

Xiaoxing Wang, Jiale Lin+3 more|arXiv (Cornell University)|Mar 21, 2022

Advanced Neural Network Applications被引用 4

一句话总结

EAutoDet 提出了一种高效的可微神经架构搜索框架，用于目标检测，通过核重用和动态通道优化，在仅 1.4 个 GPU 天内联合优化主干网络和 FPN 架构，实现 COCO 上 120 FPS 时 40.1 mAP 和 41.3 FPS 时 49.2 mAP 的性能，超越了以往无需 ImageNet 预训练的 NAS 方法。

ABSTRACT

Training CNN for detection is time-consuming due to the large dataset and complex network modules, making it hard to search architectures on detection datasets directly, which usually requires vast search costs (usually tens and even hundreds of GPU-days). In contrast, this paper introduces an efficient framework, named EAutoDet, that can discover practical backbone and FPN architectures for object detection in 1.4 GPU-days. Specifically, we construct a supernet for both backbone and FPN modules and adopt the differentiable method. To reduce the GPU memory requirement and computational cost, we propose a kernel reusing technique by sharing the weights of candidate operations on one edge and consolidating them into one convolution. A dynamic channel refinement strategy is also introduced to search channel numbers. Extensive experiments show significant efficacy and efficiency of our method. In particular, the discovered architectures surpass state-of-the-art object detection NAS methods and achieve 40.1 mAP with 120 FPS and 49.2 mAP with 41.3 FPS on COCO test-dev set. We also transfer the discovered architectures to rotation detection task, which achieve 77.05 mAP$_{ ext{50}}$ on DOTA-v1.0 test set with 21.1M parameters.

研究动机与目标

• 为解决现有目标检测 NAS 方法在大规模数据集和复杂模型下计算与显存成本过高的问题。
• 实现在无 ImageNet 预训练条件下，主干网络与 FPN 模块的端到端联合架构搜索。
• 在保持高搜索精度和模型性能的同时，降低 GPU 显存占用与训练时间。
• 探索将 NAS 与 YOLO 风格的一阶段检测器结合的潜力，这类检测器速度快但因复杂的手工设计而难以通过标准 NAS 改进。

提出的方法

• 构建一个单一的超网络，通过可微搜索策略联合建模主干网络与 FPN 模块。
• 通过在同一条边上的候选操作之间共享权重，实现核重用，将它们整合为单个卷积，以减少显存与计算量。
• 采用动态通道优化，在训练过程中自适应搜索最优通道数，提升收敛速度与效率。
• 使用宏观搜索空间独立优化 C3 块、瓶颈块与 FPN 融合块，实现对操作、通道数与连接方式的细粒度搜索。
• 在无 ImageNet 预训练的情况下，从零开始在 MS-COCO 上训练超网络，显著降低搜索成本。
• 采用双流优化策略：在 50 个周期内交替更新架构参数与网络权重，使用 SGD 优化。

实验结果

研究问题

• RQ1 能否在无 ImageNet 预训练的情况下，高效地在检测数据集上联合搜索主干网络与 FPN 架构？
• RQ2 核重用与动态通道优化如何在目标检测的超网络训练中降低 GPU 显存占用与训练时间？
• RQ3 在 YOLO 风格的一阶段检测器上应用 NAS，能否在保持高推理速度的同时超越手工设计的 YOLO 模型精度？
• RQ4 当搜索成本极低时，直接应用于 COCO 检测任务的 NAS 性能上限是什么？
• RQ5 所发现的架构在其他检测任务（如旋转目标检测）中是否具有良好的泛化能力？

主要发现

• EAutoDet 仅在单张 V100 GPU 上耗时 1.4 个 GPU 天即完成目标检测模型的搜索，相比以往方法动辄数十至数百个 GPU 天的搜索成本，显著降低。
• 所发现的 AutoYOLO-s 模型在 COCO 测试集上实现 120 FPS 时 40.1 mAP，优于 YOLOv5-s（36.9 mAP），且参数更少、速度更快。
• AutoYOLO-x 模型在 41.3 FPS 下达到 49.2 mAP，超越 YOLOv5-x（49.1 mAP），同时 FLOPs 与参数量略少。
• 该方法支持在 COCO 上从零开始训练，无需 ImageNet 预训练，消除了昂贵的预训练需求，显著提升搜索效率。
• 在 DOTA-v1.0 旋转检测任务上迁移应用时，AutoYOLO 模型仅用 21.1M 参数即达到 77.05 mAP50，展现出强大的泛化能力。
• 搜索空间表达能力强，可对操作、通道倍增因子与连接方式实现细粒度搜索，每个 FPN 块的候选连接类型超过 5.4×10^8 种。