[논문 리뷰] Loss Function Discovery for Object Detection via Convergence-Simulation Driven Search

Peidong Liu, Gengwei Zhang외 5명|arXiv (Cornell University)|2021. 02. 09.

Advanced Neural Network Applications참고 문헌 32인용 수 16

한 줄 요약

이 논문은 수학적 수렴 및 최적화 행동을 시뮬레이션하여 객체 검출을 위한 새로운 손실 함수를 자동으로 발견하는 진화 탐색 프레임워크인 CSE-Autoloss를 제안한다. 이는 이중 단계 및 단일 단계 검출기에서 각각 표준 Cross-entropy 및 Focal loss보다 mAP이 1.1%와 0.8% 향상되었으며, 수렴 시뮬레이션 모듈을 통해 탐색 시간을 20배 감소시켰다.

ABSTRACT

Designing proper loss functions for vision tasks has been a long-standing research direction to advance the capability of existing models. For object detection, the well-established classification and regression loss functions have been carefully designed by considering diverse learning challenges. Inspired by the recent progress in network architecture search, it is interesting to explore the possibility of discovering new loss function formulations via directly searching the primitive operation combinations. So that the learned losses not only fit for diverse object detection challenges to alleviate huge human efforts, but also have better alignment with evaluation metric and good mathematical convergence property. Beyond the previous auto-loss works on face recognition and image classification, our work makes the first attempt to discover new loss functions for the challenging object detection from primitive operation levels. We propose an effective convergence-simulation driven evolutionary search algorithm, called CSE-Autoloss, for speeding up the search progress by regularizing the mathematical rationality of loss candidates via convergence property verification and model optimization simulation. CSE-Autoloss involves the search space that cover a wide range of the possible variants of existing losses and discovers best-searched loss function combination within a short time (around 1.5 wall-clock days). We conduct extensive evaluations of loss function search on popular detectors and validate the good generalization capability of searched losses across diverse architectures and datasets. Our experiments show that the best-discovered loss function combinations outperform default combinations by 1.1% and 0.8% in terms of mAP for two-stage and one-stage detectors on COCO respectively. Our searched losses are available at https://github.com/PerdonLiu/CSE-Autoloss.

연구 동기 및 목표

• 효과적인 손실 함수의 자동 탐색을 통해 수동으로 전문가가 설계한 형태에 대한 의존도를 줄이기.
• 손실 함수 탐색에서의 희소성과 불안정성을 해결하기 위해 수학적 및 최적화 성질 검증을 통합하기.
• 학습 목표와 평가 지표(예: mAP) 간의 일치도를 데이터 기반의 손실 함수 탐색을 통해 향상시키기.
• 다양한 아키텍처와 데이터셋에서 일반화 가능한 손실 함수 형식을 갖춘 효율적이고 확장 가능한 탐색을 가능하게 하기.
• 강한 수렴 성질과 높은 성능을 갖춘 손실 함수를 탐색하는 프레임워크 개발하기.

제안 방법

• CSE-Autoloss는 다양한 손실 함수 형태를 표현하기 위해 21개의 기본 수학 연산, 3개의 상수 입력, 3개의 변수 입력으로 구성된 탐색 공간을 사용한다.
• 효과적이지 않은 후보를 조기에 걸러내기 위해 수렴 성질 검증 및 모델 최적화 시뮬레이션의 두 단계적 수렴 시뮬레이션 모듈을 도입한다.
• 모델의 수렴 및 최적화 행동을 시뮬레이션한 결과를 기반으로 진화 알고리즘을 사용하여 손실 함수 조합을 탐색한다.
• 기존의 인기 있는 손실 함수(예: CE, Focal, IoU, GIoU)를 커버하는 탐색 공간을 설계하면서도 새로운 고성능 조합을 가능하게 한다.
• COCO 및 VOC에서 프oxy 학습을 통해 후보 손실 함수를 평가하며, 수렴 및 최적화 안정성에 기반한 조기 필터링을 수행한다.
• 이 파이프라인을 통해 발견된 최고 성능의 손실 함수인 CSE-Autoloss-A는 다양한 검출기와 데이터셋에서 검증되었다.

실험 결과

연구 질문

• RQ1 자동화된 탐색 프레임워크는 수작업으로 설계된 기준 손실 함수를 능가하는 새로운 객체 검출 손실 함수를 탐색할 수 있는가?
• RQ2 수렴 시뮬레이션 모듈은 진화적 손실 함수 탐색의 효율성과 안정성을 어떻게 향상시키는가?
• RQ3 발견된 손실 함수는 다양한 객체 검출기와 데이터셋에서 얼마나 일반화되는가?
• RQ4 수학적 수렴 및 최적화 행동은 학습된 손실 함수의 성능에 어떤 영향을 미치는가?
• RQ5 발견된 손실 함수의 품질을 손상시키지 않고 탐색 과정을 상당히 가속화할 수 있는가?

주요 결과

• 최고로 발견된 손실 함수인 CSE-Autoloss-A는 Faster R-CNN R50에서 COCO에서 38.5 mAP를 기록하여 표준 CE + L1 기준보다 1.1% 향상되었다.
• FCOS R50에서는 최고의 조합(CSE-Autoloss-B)이 39.6 mAP를 기록하여 Focal loss + GIoU 기준보다 0.8% 향상되었다.
• CSE-Autoloss는 기존의 순수한 진화 탐색 대비 20배 빠른 속도로 탐색 시간을 약 1.5일로 단축시켰다.
• 수렴 시뮬레이션 모듈은 성능이 열악한 손실 후보의 99%를 걸러내어 탐색 효율을 크게 향상시켰다.
• 발견된 손실 함수는 Faster R-CNN, FCOS 등의 다양한 아키텍처와 COCO, VOC, BDD 등의 다양한 데이터셋에서 잘 일반화되었다.
• 이 방법은 Cross-Entropy 및 Focal loss와 같은 표준 손실 함수와 비교해도 성능을 충족하거나 초월하는 구조를 갖춘 손실 함수, 예를 들어 CSE-Autoloss-A를 성공적으로 탐색했다.