[논문 리뷰] Hyperspectral Images Classification Based on Multi-scale Residual Network

Xiangdong Zhang, Wang Tengjun외 1명|arXiv (Cornell University)|2020. 04. 26.

Remote-Sensing Image Classification참고 문헌 21인용 수 4

한 줄 요약

이 논문은 다중 척도 합성곱 브랜치를 잔차 블록 내에 통합하여 공간 및 스펙트럼 특징의 효과적인 융합을 가능하게 함으로써 특징 추출을 향상시키는 다중 척도 잔차 신경망(MSRN)을 제안한다. 이 방법은 인디언 파인스 및 파비아 대학 데이터셋에서 각각 99.07% 및 99.96%의 전체 정확도를 달성하여 기존 방법을 능가하며, 일반화 및 속도 향상을 위한 동적 학습률, 배치 정규화, 드롭아웃을 통해 소규모 학습 데이터 설정에서 특히 뛰어난 성능을 보인다.

ABSTRACT

Because hyperspectral remote sensing images contain a lot of redundant information and the data structure is highly non-linear, leading to low classification accuracy of traditional machine learning methods. The latest research shows that hyperspectral image classification based on deep convolutional neural network has high accuracy. However, when a small amount of data is used for training, the classification accuracy of deep learning methods is greatly reduced. In order to solve the problem of low classification accuracy of existing algorithms on small samples of hyperspectral images, a multi-scale residual network is proposed. The multi-scale extraction and fusion of spatial and spectral features is realized by adding a branch structure into the residual block and using convolution kernels of different sizes in the branch. The spatial and spectral information contained in hyperspectral images are fully utilized to improve the classification accuracy. In addition, in order to improve the speed and prevent overfitting, the model uses dynamic learning rate, BN and Dropout strategies. The experimental results show that the overall classification accuracy of this method is 99.07% and 99.96% respectively in the data set of Indian Pines and Pavia University, which is better than other algorithms.

연구 동기 및 목표

• 소규모 학습 데이터셋을 사용할 때 저조한 분류 정확도 문제를 해결하기 위해.
• 다양한 척도의 공간 및 스펙트럼 정보 융합을 통해 특징 표현을 향상시키기 위해.
• 정규화 기법을 통해 모델 일반화 및 학습 효율성을 향상시키기 위해.
• 기존 방법을 능가하는 벤치마크 고분광 이미지 데이터셋에서의 성능을 보이는 딥 러닝 아키텍처를 개발하기 위해.

제안 방법

• 다양한 커널 크기를 가진 병렬 합성곱 브랜치를 포함하는 다중 척도 잔차 블록을 도입하여 다양한 수용장역을 캡처한다.
• 각 잔차 블록 내에서 다중 척도의 특징을 융합하여 공간-스펙트럼 표현 학습을 향상시킨다.
• 과적합을 줄이고 학습을 안정화시키기 위해 배치 정규화(BN) 및 드롭아웃 레이어를 적용한다.
• 수렴 속도를 향상시키고 최적화를 개선하기 위해 동적 학습률 스케줄링을 사용한다.
• 최종 분류를 위해 글로벌 평균 풀링 및 완전 연결 레이어를 적용한다.
• 확률적 경사 하강법를 사용하여 고분광 이미지 데이터셋에서 모델을 엔드 투 엔드로 학습시킨다.

실험 결과

연구 질문

• RQ1 잔차 블록 내에 존재하는 다중 척도 합성곱 브랜치가 고분광 이미지 분류의 특징 추출을 향상시키는가?
• RQ2 소규모 샘플 고분광 이미지 데이터셋에서 제안된 MSRN 아키텍처는 최신 기술 대비 어떻게 성능을 발휘하는가?
• RQ3 배치 정규화 및 드롭아웃이 낮은 데이터 환경에서 일반화를 얼마나 향상시키는가?
• RQ4 다중 척도 공간 및 스펙트럼 특징 융합이 더 높은 분류 정확도를 이끌어내는가?
• RQ5 동적 학습률 스케줄링이 학습 효율성 및 모델 수렴을 향상시키는가?

주요 결과

• 제안된 MSRN은 인디언 파인스 데이터셋에서 99.07%의 전체 분류 정확도를 달성하여 이전 방법을 능가한다.
• 파비아 대학 데이터셋에서는 99.96%의 전체 정확도를 기록하여 뛰어난 성능을 입증한다.
• 배치 정규화 및 드롭아웃를 효과적으로 적용함으로써 소규모 학습 데이터 조건에서도 모델의 강건성을 확보한다.
• 다중 척도 합성곱 브랜치의 통합은 특징 표현 및 분류 정확도 향상에 크게 기여한다.
• 동적 학습률 스케줄링은 더 빠른 수렴과 향상된 학습 안정성에 기여한다.
• 절단 실험을 통해 다중 척도 특징 융합 및 정규화 기법이 모델의 높은 성능의 핵심 요소임을 확인한다.