[论文解读] Loss Function Discovery for Object Detection via Convergence-Simulation Driven Search

Peidong Liu, Gengwei Zhang+5 more|arXiv (Cornell University)|Feb 9, 2021

Advanced Neural Network Applications参考文献 32被引用 16

一句话总结

该论文提出CSE-Autoloss，一种通过模拟数学收敛和优化行为来自动发现目标检测新损失函数的进化搜索框架。该方法在两阶段和单阶段检测器上分别相对于标准交叉熵损失和焦点损失实现了1.1%和0.8%的mAP提升，同时通过引入收敛性模拟模块，将搜索时间减少了20倍。

ABSTRACT

Designing proper loss functions for vision tasks has been a long-standing research direction to advance the capability of existing models. For object detection, the well-established classification and regression loss functions have been carefully designed by considering diverse learning challenges. Inspired by the recent progress in network architecture search, it is interesting to explore the possibility of discovering new loss function formulations via directly searching the primitive operation combinations. So that the learned losses not only fit for diverse object detection challenges to alleviate huge human efforts, but also have better alignment with evaluation metric and good mathematical convergence property. Beyond the previous auto-loss works on face recognition and image classification, our work makes the first attempt to discover new loss functions for the challenging object detection from primitive operation levels. We propose an effective convergence-simulation driven evolutionary search algorithm, called CSE-Autoloss, for speeding up the search progress by regularizing the mathematical rationality of loss candidates via convergence property verification and model optimization simulation. CSE-Autoloss involves the search space that cover a wide range of the possible variants of existing losses and discovers best-searched loss function combination within a short time (around 1.5 wall-clock days). We conduct extensive evaluations of loss function search on popular detectors and validate the good generalization capability of searched losses across diverse architectures and datasets. Our experiments show that the best-discovered loss function combinations outperform default combinations by 1.1% and 0.8% in terms of mAP for two-stage and one-stage detectors on COCO respectively. Our searched losses are available at https://github.com/PerdonLiu/CSE-Autoloss.

研究动机与目标

• 自动化发现适用于目标检测的有效损失函数，减少对人工设计、专家制定公式的依赖。
• 通过整合数学性质和优化性质验证，解决损失函数搜索中的稀疏性和不稳定性问题。
• 通过数据驱动的损失发现方法，提升训练目标与评估指标（如mAP）之间的对齐性。
• 在多样化架构和数据集上实现高效、可扩展的搜索，获得可泛化的损失函数形式。
• 开发一种能发现具有强收敛特性且高性能的损失函数的框架。

提出的方法

• CSE-Autoloss采用由21种基本数学运算、3个常数输入和3个变量输入组成的搜索空间，以表示多样化的损失函数形式。
• 引入两个渐进式的收敛性模拟模块：收敛性性质验证和模型优化模拟，以早期过滤掉无效候选。
• 该框架使用进化算法探索损失函数组合，其搜索过程由模拟的收敛性和优化行为引导。
• 搜索空间设计覆盖了现有主流损失函数（如CE、Focal、IoU、GIoU），同时支持新颖且高性能的组合。
• 通过在COCO和VOC上的代理训练评估候选损失函数，基于收敛性和优化稳定性进行早期过滤。
• 通过该流程发现最佳性能损失函数CSE-Autoloss-A，并在多种检测器和数据集上进行验证。

实验结果

研究问题

• RQ1 自动化搜索框架能否发现优于人工设计基线的新损失函数？
• RQ2 收敛性模拟模块如何提升进化损失函数搜索的效率与稳定性？
• RQ3 所发现的损失函数在不同目标检测器和数据集上的泛化能力如何？
• RQ4 数学收敛性和优化行为对学习到的损失函数性能有何影响？
• RQ5 是否能在不牺牲所发现损失函数质量的前提下，显著加速搜索过程？

主要发现

• 所发现的最佳损失函数CSE-Autoloss-A在Faster R-CNN R50上于COCO数据集上达到38.5 mAP，相比标准CE + L1基线提升1.1%。
• 对于FCOS R50，最佳组合（CSE-Autoloss-B）达到39.6 mAP，相比Focal loss + GIoU基线提升0.8%。
• CSE-Autoloss将搜索时间缩短至约1.5个时钟时间日，相比原始进化搜索实现20倍加速。
• 收敛性模拟模块过滤掉了99%的低性能损失候选，显著提升搜索效率。
• 所发现的损失函数在不同架构（Faster R-CNN、FCOS）和数据集（COCO、VOC、BDD）上均表现出良好的泛化能力。
• 该方法成功发现了具有独特结构的损失函数（如CSE-Autoloss-A），其性能可与标准损失函数（如交叉熵和焦点损失）相匹配或超越。