[논문 리뷰] SimpleDet: A Simple and Versatile Distributed Framework for Object Detection and Instance Recognition

Yuntao Chen, Chenxia Han외 5명|arXiv (Cornell University)|2019. 03. 14.

Advanced Neural Network Applications참고 문헌 17인용 수 15

한 줄 요약

SimpleDet는 소비자용 하드웨어에서 최신 기술 수준의 객체 검출 모델을 효율적이고 확장 가능한 방식으로 훈련시킬 수 있도록 설계된 경량이고 오픈소스인 객체 검출 프레임워크입니다. 최적화된 파라미터 통신, 혼합 정밀도 훈련, 크로스 GPU 배치 정규화, 메모리 절약 기법을 통해 분산 훈련에서 거의 선형적 확장성을 달성하며, FP16 훈련 시 최대 2.0배의 속도 향상과 30%의 메모리 감소를 제공합니다.

ABSTRACT

Object detection and instance recognition play a central role in many AI applications like autonomous driving, video surveillance and medical image analysis. However, training object detection models on large scale datasets remains computationally expensive and time consuming. This paper presents an efficient and open source object detection framework called SimpleDet which enables the training of state-of-the-art detection models on consumer grade hardware at large scale. SimpleDet supports up-to-date detection models with best practice. SimpleDet also supports distributed training with near linear scaling out of box. Codes, examples and documents of SimpleDet can be found at https://github.com/tusimple/simpledet .

연구 동기 및 목표

• 소비자용 하드웨어에서 대규모 객체 검출의 높은 계산 비용과 긴 훈련 시간 문제를 해결하기 위해.
• 최소한의 인프라 요구 조건으로 효율적으로 확장 가능한 분산 훈련 프레임워크를 제공하기 위해.
• 순수한 파이썬 설정 시스템을 통해 모델 훈련과 하이퍼파라미터 튜닝을 단순화하기 위해.
• 혼합 정밀도, 크로스 GPU 배치 정규화, 메모리 체크포인팅과 같은 고급 훈련 기능을 기본적으로 지원하기 위해.
• 25Gb 이더넷과 소비자용 GPU를 포함한 최소한의 하드웨어 오버헤드로 고성능 훈련을 가능하게 하기 위해.

제안 방법

• SimpleDet는 분산 훈련을 효율적으로 구현하기 위해 MXNet을 딥러닝 백엔드로 사용하며, 파라미터 서버 및 올리드스패이드 통신 패러다임을 모두 지원합니다.
• 손실 스케일링을 사용한 FP16를 활용한 혼합 정밀도 훈련을 구현하여 수렴성을 유지하면서 메모리 사용량을 줄입니다.
• 더 큰 미니배치 크기(최대 256)를 허용하기 위해 크로스 GPU 배치 정규화(CGBN)를 통합하여 수렴 실패 없이 안정적인 훈련을 가능하게 합니다.
• FP16 훈련, 인라인 활성화 배치 정규화, 계층별 메모리 체크포인팅의 조합을 통해 메모리 절약을 달성합니다.
• 유연한 모델 및 훈련 하이퍼파라미터 관리를 위해 순수한 파이썬 설정 시스템을 사용합니다.
• 배포와 재현성을 용이하게 하기 위해 사전 빌드된 Singularity 및 Docker 컨테이너를 제공합니다.

실험 결과

연구 질문

• RQ1 표준 25Gb 이더넷을 사용하는 소비자용 하드웨어에서 분산 객체 검출 프레임워크가 거의 선형적 확장성을 달성할 수 있는가?
• RQ2 정확도를 저하시키지 않고 혼합 정밀도 훈련이 메모리 사용량과 훈련 시간을 얼마나 효과적으로 줄일 수 있는가?
• RQ3 크로스 GPU 배치 정규화를 통해 큰 미니배치 크기에서 수렴 문제 없이 안정적인 훈련을 수행할 수 있는가?
• RQ4 체크포인팅 및 인라인 연산과 같은 메모리 절약 기법이 GPU 메모리 소비를 얼마나 줄일 수 있는가?
• RQ5 기존 프레임워크인 Detectron, MMDetection, Mask R-CNN Benchmark와 비교해 SimpleDet는 훈련 속도와 기능 지원 측면에서 얼마나 우수한가?

주요 결과

• SimpleDet는 소비자용 25Gb 이더넷만을 사용하는 4노드 GPU 클러스터에서 거의 선형적 확장 효율을 달성하여 높은 통신 효율성을 입증했습니다.
• FP16 훈련을 통해 FP32 훈련 대비 최대 2.0배의 속도 향상과 30%의 GPU 메모리 사용량 감소를 달성했으며, mAP 성능은 동일하게 유지되었습니다.
• 크로스 GPU 배치 정규화를 통해 SimpleDet는 미니배치 크기가 256인 상태에서도 안정적인 수렴을 달성한 검출기 훈련을 성공적으로 수행했습니다.
• 혼합 정밀도, 인라인 배치 정규화, 메모리 체크포인팅의 조합으로 GPU 메모리 사용량을 최대 50%까지 감소시켰으며, 계산 비용 증가는 미미했습니다.
• SimpleDet는 다른 프레임워크보다 더 넓은 기능 커버리지와 함께, 주요 모델들(예: RetinaNet, Cascade R-CNN, TridentNet)과 분산 훈련, 혼합 정밀도 훈련 등의 고급 기능을 모두 기본적으로 지원합니다.
• 훈련 속도 측면에서 SimpleDet는 ResNet-50-C4 기반 Faster R-CNN에서 초당 37장의 이미지를 처리하여 Detectron과 MMDetection를 능가했으며, Mask R-CNN Benchmark와 비교해도 동등하거나 뛰어난 성능을 보였습니다.