[논문 리뷰] MegDet: A Large Mini-Batch Object Detector

Chao Peng, Tete Xiao외 6명|arXiv (Cornell University)|2017. 11. 20.

Advanced Neural Network Applications참고 문헌 34인용 수 29

한 줄 요약

MegDet는 128개의 GPU를 사용하여 최대 256까지의 미니배치 크기를 사용하는 대규모 미니배치 객체 검출 프레임워크를 제안한다. 이로 인해 COCO 2017에서 52.5 mmAP를 달성하고, 학습 시간을 33시간에서 단 4.1시간으로 단축시켰다. 학습 안정성 향상과 정확도 향상을 위해 온도 상승 학습률 정책과 크로스 GPU 배치 정규화(CGBN)를 도입하였다.

ABSTRACT

The improvements in recent CNN-based object detection works, from R-CNN [11], Fast/Faster R-CNN [10, 31] to recent Mask R-CNN [14] and RetinaNet [24], mainly come from new network, new framework, or novel loss design. But mini-batch size, a key factor in the training, has not been well studied. In this paper, we propose a Large MiniBatch Object Detector (MegDet) to enable the training with much larger mini-batch size than before (e.g. from 16 to 256), so that we can effectively utilize multiple GPUs (up to 128 in our experiments) to significantly shorten the training time. Technically, we suggest a learning rate policy and Cross-GPU Batch Normalization, which together allow us to successfully train a large mini-batch detector in much less time (e.g., from 33 hours to 4 hours), and achieve even better accuracy. The MegDet is the backbone of our submission (mmAP 52.5%) to COCO 2017 Challenge, where we won the 1st place of Detection task.

연구 동기 및 목표

• 작은 미니배치 크기로 인한 객체 검출의 비효율성과 정확도 저하 문제를 해결하여 학습 속도 향상과 배치 정규화 통계 향상을 도모한다.
• 큰 미니배치 크기로 학습하는 객체 검출기의 과제를 해결하여, 큰 학습률은 불안정성을 유도하고 작은 학습률은 수렴 속도를 저하시키는 문제를 해결한다.
• 정확도를 희생시키지 않고도 256의 미니배치 크기와 128개의 GPU로 확장함으로써 더 빠른 학습 루프를 가능하게 한다.
• 크로스 GPU 배치 정규화(CGBN)를 도입하여 객체 검출에서 배치 정규화 통계를 향상시킨다.

제안 방법

• 대규모 미니배치로 학습을 안정화시키기 위해 초기 학습률을 점진적으로 증가시키는 온도 상승 학습률 정책을 도입한다.
• 다중 GPU 간에 배치 통계를 집계하여 배치 정규화 정확도와 학습 안정성을 향상시키는 크로스 GPU 배치 정규화(CGBN)를 제안한다.
• 객체 검출에서 손실 분산이 동일하게 유지되도록 하는 새로운 해석 기반의 선형 스케일링 규칙을 적용한다.
• 대규모 미니배치 설정에서 수렴성과 최종 정확도 향상을 위해 학습률 감소 정책을 적용한 장기 학습 정책을 도입한다.
• 배치 정규화 크기가 32를 초과할 경우 메모리 사용량을 비선형적으로 줄여 계산 오버헤드를 감소시킨다.
• CGBN를 OHEM, 애트로스 컨볼루션, 다중 스케일 학습, 강력한 백본과 조합하여 모델 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 정확도 저하를 최소화하면서도 빠른 속도를 확보할 수 있는 대규모 미니배치 학습이 객체 검출에 성공적으로 적용될 수 있는가?
• RQ2 대규모 미니배치 설정에서 표준 배치 정규화와 비교해 크로스 GPU 배치 정규화(CGBN)는 학습 안정성과 정확도를 어떻게 향상시키는가?
• RQ3 COCO에서 대규모 미니배치 객체 검출을 위한 최적의 배치 크기와 배치 정규화 통계 크기는 무엇인가?
• RQ4 온도 상승 학습률 정책은 대규모 미니배치로 학습을 안정화시키는 데 효과적으로 작용하는가?
• RQ5 수렴 속도와 최종 정확도 측면에서 대규모 미니배치 학습은 기존의 소규모 미니배치 학습과 비교해 어떤가?

주요 결과

• 128개의 GPU에서 256의 미니배치 크기로 학습한 MegDet는 COCO 2017 테스트-디브에서 52.5 mmAP를 달성하여 검출 도전 대회에서 1등을 차지했다.
• 학습 시간은 기준선(8개 GPU에서 16의 미니배치 크기)의 33.2시간에서 128개 GPU에서 256의 미니배치 크기로 학습한 경우 4.1시간으로 단축되어 8배의 속도 향상을 달성했다.
• 최고의 성능은 배치 정규화 크기가 32일 때 달성되었으며, 더 작은 크기(예: 2, 4, 8)는 통계가 열악하여 정확도가 떨어지고, 더 큰 크기(예: 64)는 성능 저하를 초래한다.
• 온도 상승 학습률 정책은 대규모 미니배치로 학습을 안정화시키며, 높은 학습률에서도 수렴 가능하게 한다.
• CGBN는 특히 대규모 미니배치 설정에서 학습 안정성과 정확도를 크게 향상시키며, 다양한 배치 크기에서 일관된 성능을 제공한다.
• 장기 학습 정책(예: 256(long))은 정확도를 약간 향상시켜(37.7 vs. 37.1 mmAP) 대규모 미니배치 설정에서 일관된 수렴을 보여준다.