[논문 리뷰] A Survey of Pruning Methods for Efficient Person Re-identification Across Domains

Hugo Masson, Amran Bhuiyan외 5명|arXiv (Cornell University)|2019. 07. 04.

Video Surveillance and Tracking Methods참고 문헌 22인용 수 9

한 줄 요약

이 논문은 교차 도메인 인물 재식별을 위한 깊이 있는 시アン식 네트워크 압축을 위한 프루닝 기법을 조사하며, 구조적 프루닝이 ResNet 특징 추출기의 FLOPS를 50% 감소시키면서도 원본 모델과 1% 이내의 랭크-1 정확도를 유지함을 입증한다. 이 방법은 정확도 손실이 크지 않게 자원 제약이 있는 플랫폼에 효율적으로 구현할 수 있도록 한다.

ABSTRACT

Recent years have witnessed a substantial increase in the deep learning architectures proposed for visual recognition tasks like person re-identification, where individuals must be recognized over multiple distributed cameras. Although deep Siamese networks have greatly improved the state-of-the-art accuracy, the computational complexity of the CNNs used for feature extraction remains an issue, hindering their deployment on platforms with with limited resources, or in applications with real-time constraints. Thus, there is an obvious advantage to compressing these architectures without significantly decreasing their accuracy. This paper provides a survey of state-of-the-art pruning techniques that are suitable for compressing deep Siamese networks applied to person re-identification. These techniques are analysed according to their pruning criteria and strategy, and according to different design scenarios for exploiting pruning methods to fine-tuning networks for target applications. Experimental results obtained using Siamese networks with ResNet feature extractors, and multiple benchmarks re-identification datasets, indicate that pruning can considerably reduce network complexity while maintaining a high level of accuracy. In scenarios where pruning is performed with large pre-training or fine-tuning datasets, the number of FLOPS required by the ResNet feature extractor is reduced by half, while maintaining a comparable rank-1 accuracy (within 1\% of the original model). Pruning while training a larger CNNs can also provide a significantly better performance than fine-tuning smaller ones.

연구 동기 및 목표

• 깊이 있는 시안식 네트워크를 압축하기에 적합한 최신 프루닝 기법을 분석하기 위해.
• 목표 응용 프로그램을 위한 설계 시나리오와 프루닝 기준을 기반으로 프루닝 전략을 평가하기 위해.
• 교차 도메인 인물 재식별에서 프루닝이 계산 복잡도와 정확도에 미치는 영향을 평가하기 위해.
• 더 작은 모델에서의 트레이닝 중 프루닝과 피니어튜닝 간 성능을 비교하기 위해.

제안 방법

• 논문은 ResNet 기반 특징 추출기를 갖춘 시안식 네트워크에 특화된 다양한 프루닝 기법을 조사한다.
• 크기, 기울기, 활성도 기반 중요도 점수 등의 기준에 따라 프루닝을 평가한다.
• 구조적 프루닝을 적용하여 ResNet 백본의 FLOPS를 줄이면서도 특징 표현 품질을 유지한다.
• 정확도와 효율성의 상호 교환 관계를 평가하기 위해 다수의 인물 재식별 벤치마크를 사용해 실험을 수행한다.
• 트레이닝 중과 사전 훈련된 모델에서의 피니어튜닝을 통해 프루닝을 적용하여 성능 결과를 비교한다.
• 대규모 사전 훈련 및 피니어튜닝 데이터셋이 프루닝 효과성에 미치는 영향을 평가한다.

실험 결과

연구 질문

• RQ1 ResNet 기반 시안식 네트워크에서 프루닝은 FLOPS 감소에 얼마나 효과적인가?
• RQ2 대규모 사전 훈련 모델에 프루닝을 적용할 경우 정확도 저하 정도는 어떠한가?
• RQ3 트레이닝 중 프루닝과 작은 모델에서의 피니어튜닝 간 성능 비교에서 어떤 것이 더 우수한가?
• RQ4 다양한 데이터셋에서 가장 안정적인 정확도 유지 성능을 보이는 프루닝 기준은 무엇인가?
• RQ5 프루닝을 통해 자원 제약이 있는 플랫폼에서 정확도 손실이 크지 않게 실시간 배포가 가능한가?

주요 결과

• 프루닝은 ResNet 특징 추출기의 FLOPS를 50% 감소시키면서도 원본 모델과 1% 이내의 랭크-1 정확도를 유지한다.
• 대규모 사전 훈련 또는 피니어튜닝 데이터셋이 있는 환경에서는 정확도 손실이 크지 않게 FLOPS 감소를 크게 달성한다.
• 트레이닝 중 프루닝이 작은 모델에서의 피니어튜닝보다 더 우수한 성능을 보이며, 트레이닝 시점 프루닝이 더 효과적임을 시사한다.
• 다양한 재식별 벤치마크에서 정확도가 안정적으로 유지되어 프루닝 방법의 강건성을 입증한다.
• 결과는 구조적 프루닝이 실시간 제약 조건이 있는 엣지 디바이스에 효율적인 배포를 가능하게 함을 확인한다.
• 엄청난 압축에도 불구하고 분류 가능한 특징 학습을 유지하므로 실용적 배포에 적합함을 검증한다.