[논문 리뷰] Fast forward feature selection for the nonlinear classification of hyperspectral images

Mathieu Fauvel, Clément Dechesne외 2명|arXiv (Cornell University)|2015. 01. 05.

Remote-Sensing Image Classification참고 문헌 13인용 수 7

한 줄 요약

이 논문은 비선형 고분광 영상 분류를 위한 빠른 전행 특성 선택 알고리즘을 제안한다. 가우시안 믹스처 모델(GMM) 분류기를 사용하여, k-겹 교차검증을 통한 분류율 추정치를 최대화하는 스펙트럼 특성을 반복적으로 선택함으로써, 효율적인 GMM 업데이트 및 마진화를 활용하여 최소한의 계산 비용으로 높은 정확도를 달성한다. 이로 인해 몇 개의 핵심 스펙트럼 대역만 선택함으로써 기존의 SVM 기반 희소 방법보다 뛰어난 성능을 발휘한다.

ABSTRACT

A fast forward feature selection algorithm is presented in this paper. It is based on a Gaussian mixture model (GMM) classifier. GMM are used for classifying hyperspectral images. The algorithm selects iteratively spectral features that maximizes an estimation of the classification rate. The estimation is done using the k-fold cross validation. In order to perform fast in terms of computing time, an efficient implementation is proposed. First, the GMM can be updated when the estimation of the classification rate is computed, rather than re-estimate the full model. Secondly, using marginalization of the GMM, sub models can be directly obtained from the full model learned with all the spectral features. Experimental results for two real hyperspectral data sets show that the method performs very well in terms of classification accuracy and processing time. Furthermore, the extracted model contains very few spectral channels.

연구 동기 및 목표

• 스펙트럼 차원을 감소시켜 분류 정확도를 유지하면서도 고분광 영상 분류에서 '휴즈 현상'을 해결하기 위해.
• 비선형 분류를 위한 최소한의 관련 스펙트럼 대역을 선택하는 빠르고 해석 가능한 특성 선택 방법을 개발하기 위해.
• 빠른 모델 업데이트 및 부분 모델 추출을 위해 GMM의 특성을 활용하여 기존 방법보다 계산 효율성을 향상시키기 위해.
• 원래의 스펙트럼 채널을 유지함으로써 선택된 특성의 해석을 더 쉽게 하여 광물학적 및 화학적 분석에 기여하기 위해.
• 이웃하는 스펙트럼 대역 간의 높은 상관관계 하에서 특성 선택의 안정성과 강건성에 대해 조사하기 위해.

제안 방법

• 이 방법은 처음에 모든 스펙트럼 특징에 대해 훈련된 가우시안 믹스처 모델(GMM)을 분류기로 사용한다.
• 각 반복 단계에서, 알고리즘은 k-겹 교차검증을 통한 분류율 추정치를 최대화하는 스펙트럼 특성을 선택한다.
• 교차검증 중에 효율적인 GMM 업데이트를 수행하여, 각 단계에서 모델을 전체적으로 재추정하는 것을 방지한다.
• 모든 특징의 조합에 대해 부분 모델은 전체 GMM의 마진화를 통해 직접 확보할 수 있어 후보 특징 집합의 신속한 평가가 가능하다.
• 알고리즘은 성능 향상에 기반하여 한 번에 하나의 특성을 반복적으로 추가하는 전진 선택 전략을 사용한다.
• 두 가지 변형이 평가되었으며, 5-NPFS(델타 = 5%)와 n-NPFS(적응형 델타)이며, 후자는 상당히 더 빠르다.

실험 결과

연구 질문

• RQ1 GMM 기반의 빠른 전행 특성 선택 방법이 고분광 영상 분류에서 최소한의 계산 비용으로 높은 분류 정확도를 달성할 수 있는가?
• RQ2 정확도와 효율성 측면에서 제안된 방법이 SVM 기반 희소 특성 선택 방법과 비교해 어떻게 다른가?
• RQ3 이웃하는 대역 간의 높은 상관관계가 있음에도 불구하고, 스펙트럼 특성 선택이 얼마나 안정적인가?
• RQ4 정지 기준 파라미터(델타)가 선택된 특성 수와 분류 성능에 어떤 영향을 미치는가?
• RQ5 이 방법은 레드레지 온(약 680–750nm)과 같은 해석 가능한, 물리적으로 의미 있는 스펙트럼 대역을 효과적으로 식별할 수 있는가?

주요 결과

• 5-NPFS 변형은 전체 SVM 기반 방법과 유사한 분류율을 달성하면서도 선택된 스펙트럼 대역의 수를 극히 적게 사용하였다.
• 평균적으로 5~10개의 스펙트럼 대역만 선택되었으며, 772nm, 501nm, 540nm는 가장 자주 선택된 채널에 속했다.
• 5-NPFS 알고리즘은 n-NPFS보다 상당히 빠르며, 유사한 특성 선택 성능을 보였기에 대규모 데이터셋에 더 실용적이었다.
• 델타가 0.5% 이하로 설정되었을 때 알고리즘의 성능이 정체되었으며, 이는 추가적인 특성 추가가 분류율 향상에 기여하지 않았음을 시사했다.
• 레드레지 영역(약 680–750nm)은 여러 시행에서 일관되게 선택되었으며, 이는 클래스 간 분리 가능성과의 관련성이 있음을 시사했다.
• 이웃하는 스펙트럼 대역 간의 높은 상관관계로 인해 특성 선택이 불안정했으며, 다양한 훈련 세트에서 인접한 채널들이 번갈아가며 선택되는 경향이 있었다.