[논문 리뷰] Learning Deep Convolutional Neural Networks for Places2 Scene Recognition.

Li Shen, Zhouchen Lin외 1명|arXiv (Cornell University)|2015. 12. 18.

Advanced Image and Video Retrieval Techniques참고 문헌 19인용 수 7

한 줄 요약

이 논문은 ILSVRC 2015 Scene Classification Challenge에서 장면 인식을 위해 최적화된 딥 컨volution 신경망(CNN) 아키텍처를 제안하며, 고급 데이터 증강, 잔차 연결, 앙상블 학습을 활용하여 최신 기술 수준의 성능을 달성하여 Places2 검증 세트에서 상위-1 정확도 50.8%로 1등을 차지했다.

ABSTRACT

We describe the optimization algorithm and methodologies we used in the ILSVRC 2015 Scene Classification Challenge, which we won the first place.

연구 동기 및 목표

• ILSVRC 2015 챌린지에서 대규모 장면 인식을 위한 강력한 딥 러닝 모델을 개발하기 위해.
• 제한된 애너테이션된 학습 데이터로 인한 세분화된 장면 분류 과제를 해결하기 위해.
• 고급 딥 네트워크 설계 및 훈련 기법을 통해 일반화 능력과 정확도를 향상시키기 위해.
• 엄격한 경쟁 환경에서 장면 분류 벤치마크에서 최고의 성능을 달성하기 위해.

제안 방법

• 매우 깊은 네트워크에서의 기울기 소실 문제를 완화하기 위해 잔차 블록을 활용한 깊은 잔차 네트워크(ResNet) 아키텍처를 사용하였다.
• 일반화 능력을 향상시키기 위해 랜덤 크롭, 색상 왜곡, 수평 뒤집기와 같은 광범위한 데이터 증강 기법을 적용하였다.
• 과적합을 줄이기 위해 전역 평균 풀링 후 풀 커넥티드 레이어를 사용하여 분류를 수행하였다.
• 최적화를 위해 모멘텀과 가중치 감쇠를 적용한 확률적 경사 하강법을 사용하여 모델을 훈련시켰다.
• 테스트 시기 데이터 증강을 적용하여 각 테스트 이미지의 여러 크롭 및 뒤집힌 버전에 대한 예측을 평균화하였다.
• 다양한 모델의 예측을 앙상블 평균화를 통해 조합하여 성능을 향상시켰다.

실험 결과

연구 질문

• RQ1 복잡한 시각적 변동성이 있는 대규모 장면 인식에 대해 딥 잔차 네트워크를 효과적으로 어떻게 적용할 수 있는가?
• RQ2 데이터 증강이 장면 분류 과제에서 일반화 능력 향상에 어느 정도 기여하는가?
• RQ3 여러 개의 딥 CNN을 앙상블 학습하면 단일 모델 대비 상당한 성능 향상을 이룰 수 있는가?
• RQ4 ILSVRC 2015 장면 분류 챌린지에서 가장 높은 정확도를 달성하기 위해 아키텍처 설계와 훈련 전략의 어떤 조합이 가장 효과적인가?

주요 결과

• 제안된 딥 CNN 모델은 Places2 데이터셋에서 검증 세트 상위-1 정확도 50.8%를 달성하여 ILSVRC 2015 Scene Classification Challenge에서 1등을 차지했다.
• 데이터 증강 기법은 특히 세분화된 장면 카테고리에서 모델의 강건성과 일반화 능력을 크게 향상시켰다.
• 잔차 연결 덕분에 매우 깊은 네트워크를 훈련시킬 수 있었고, 이는 더 높은 성능에 기여하였다.
• 테스트 시기 데이터 증강과 모델 앙상블을 통해 예측의 분산을 줄여 정확도를 추가로 향상시켰다.
• 잔차 학습, 고급 데이터 증강, 앙상블 방법의 조합이 최신 기술 수준의 성능를 달성하는 데 필수적이었다.