[논문 리뷰] Convolution Neural Network Architecture Learning for Remote Sensing Scene Classification

Jie Chen, Haozhe Huang외 6명|arXiv (Cornell University)|2020. 01. 27.

Remote-Sensing Image Classification참고 문헌 43인용 수 14

한 줄 요약

이 논문은 원격 감지 영상 분류를 위한 최적의 컨volution 신경망(CNN) 아키텍처를 자동으로 학습하는 미분 가능한 신경망 아키텍처 탐색(NAS) 프레임워크를 제안한다. 운영 및 연결 방식의 매개변수화된 공간에서 경사 하강법을 사용해 아키텍처 탐색을 연속 최적화 문제로 모델링함으로써, 아웃러스 컨볼루션을 포함한 아키텍처를 발견하여 UC Merced, AID, NWPU-RESISC45 벤치마크에서 수작업 설계된 모델을 능가하는 최신 기술 수준의 정확도를 달성한다.

ABSTRACT

Remote sensing image scene classification is a fundamental but challenging task in understanding remote sensing images. Recently, deep learning-based methods, especially convolutional neural network-based (CNN-based) methods have shown enormous potential to understand remote sensing images. CNN-based methods meet with success by utilizing features learned from data rather than features designed manually. The feature-learning procedure of CNN largely depends on the architecture of CNN. However, most of the architectures of CNN used for remote sensing scene classification are still designed by hand which demands a considerable amount of architecture engineering skills and domain knowledge, and it may not play CNN's maximum potential on a special dataset. In this paper, we proposed an automatically architecture learning procedure for remote sensing scene classification. We designed a parameters space in which every set of parameters represents a certain architecture of CNN (i.e., some parameters represent the type of operators used in the architecture such as convolution, pooling, no connection or identity, and the others represent the way how these operators connect). To discover the optimal set of parameters for a given dataset, we introduced a learning strategy which can allow efficient search in the architecture space by means of gradient descent. An architecture generator finally maps the set of parameters into the CNN used in our experiments.

연구 동기 및 목표

• 수작업으로 설계된 CNN 아키텍처의 한계를 해결하기 위해, 영역 전문 지식이 많이 필요하고 데이터셋 고유의 특징을 충분히 반영하지 못할 수 있는 문제를 해결하고자 한다.
• 원격 감지 영상 데이터셋에 맞는 최적의 CNN 아키텍처를 자동으로 탐색하는 데이터 기반의 접근 방식을 개발하고자 한다.
• 아웃러스 컨볼루션의 역할이 고해상도 원격 감지 영상에서의 문맥 정보를 포착하는 데 어떻게 기여하는지 탐구하고자 한다.
• NAS를 통해 학습된 아키텍처가 기존의 수작업 설계된 모델을 초월하는 성능과 표현 학습 능력을 가지는지 평가하고자 한다.

제안 방법

• 모든 아키텍처가 운영(예: 컨볼루션, 풀링, 아이덴티티, 연결 없음)과 그 연결 패턴으로 매개변수화된 연속적인 아키텍처 공간을 정의한다.
• 아키텍처 매개변수를 최적화하기 위해 경사 하강법을 사용하는 미분 가능한 탐색 전략을 도입하여 아키텍처와 가중치를 동시에 끝에서 끝까지 훈련할 수 있도록 한다.
• 학습된 매개변수를 실제 CNN 아키텍처로 변환하는 아키텍처 생성기를 설계하며, 깊은 네트워크를 만들기 위해 학습된 셀들을 스택한다.
• 아웃러스(아웃러스) 컨볼루션을 탐색 공간에 통합하여 고해상도 영상에서 장거리 공간적 의존성을 더 잘 포착하고 수용 영역을 확장한다.
• 표준 훈련 프로토콜을 사용하여 세 가지 벤치마크(UC Merced, AID, NWPU-RESISC45)에서 최종 아키텍처를 50% 및 80% 훈련 비율로 처음부터 훈련시킨다.
• 아웃러스 컨볼루션을 제거하거나 교체함으로써 기여도를 검증하기 위해 추론 분석을 수행한다.

실험 결과

연구 질문

• RQ1 다양화된 신경망 아키텍처 탐색 프레임워크는 원격 감지 영상 분류에서 수작업 설계된 모델을 능가하는 CNN 아키텍처를 발견할 수 있는가?
• RQ2 아웃러스 컨볼루션은 고해상도 원격 감지 영상에서 성능 향상에 어떤 역할을 하는가?
• RQ3 NAS로 학습된 아키텍처는 다양한 공간 해상도와 시나리오 복잡도를 가진 원격 감지 데이터셋 간에 일반화 가능한가?
• RQ4 아웃러스 컨볼루션의 부재가 학습된 아키텍처의 표현 능력과 분류 정확도에 어떤 영향을 미치는가?

주요 결과

• 제안된 아키텍처 학습 방법은 모든 세 가지 벤치마크에서 최신 기술 수준의 성능을 달성했다: UC Merced Land-Use(80% 훈련 비율 시 정확도 93.43%), AID(91.12%), NWPU-RESISC45(93.67%).
• 프레임워크에 의해 발견된 모든 최적 아키텍처는 아웃러스 컨볼루션을 포함하고 있어, 원격 감지 영상의 문맥 표현을 학습하는 데 있어 그 중요성이 확인되었다.
• 추론 분석 결과, 아웃러스 컨볼루션을 제거하거나 교체할 경우 정확도가 0.62%에서 3.16%까지 하락하여 그 중요성을 확인했다.
• 모든 데이터셋과 훈련 비율에서 ResNet-50, DenseNet, MobileNetV2와 같은 기존의 확립된 모델을 초월하는 성능을 보였다.
• UC Merced에서의 학습된 아키텍처는 50% 훈련 데이터로도 88.63%의 정확도를 달성하여 AlexNet(77.68%)과 VGG16(81.47%)를 뛰어넘었다.
• 혼동 행렬의 시각화 결과, 특히 '숲'과 '자갈 굴착지'와 같이 외관이 유사한 클래스 간의 분류 성능 향상이 확인되었다.