[논문 리뷰] An Algorithm and Heuristic based on Normalized Mutual Information for Dimensionality Reduction and Classification of Hyperspectral images

Elkebir Sarhrouni, Ahmed Hammouch외 1명|arXiv (Cornell University)|2022. 10. 22.

Remote-Sensing Image Classification인용 수 3

한 줄 요약

이 논문은 고분광 영상(HSI)의 분류 성능 향상을 위해 비중복성 있고 정보성이 높은 밴드를 선택하기 위해 정규화된 상호정보량(NMI)을 사용하는 이중 단계 휴리스틱 알고리즘을 제안한다. 먼저 지표면 진술(GT)과 상호정보량이 높은 밴드를 선별하여 관련성을 확보하고, 이후 NMI를 적용해 중복된 밴드를 제거한다. 이로써 원본 데이터를 변환하지 않고도 AVIRIS 92AV3C 데이터셋에서 42개의 밴드로만 84.24%의 분류 정확도를 달성하며, 효과적인 차원 축소를 입증한다.

ABSTRACT

In the feature classification domain, the choice of data affects widely the results. The Hyperspectral image (HSI), is a set of more than a hundred bidirectional measures (called bands), of the same region (called ground truth map: GT). The HSI is modelized at a set of N vectors. So we have N features (or attributes) expressing N vectors of measures for C substances (called classes). The problematic is that it's pratically impossible to investgate all possible subsets. So we must find K vectors among N, such as relevant and no redundant ones; in order to classify substances. Here we introduce an algorithm based on Normalized Mutual Information to select relevant and no redundant bands, necessary to increase classification accuracy of HSI. Keywords: Feature Selection, Normalized Mutual information, Hyperspectral images, Classification, Redundancy.

연구 동기 및 목표

• 고분광 영상(HSI) 분류에서 높은 차원의 특징 공간 문제를 해결하기 위해, 중복되거나 관련성이 없는 밴드로 인한 성능 저하를 방지한다.
• 유의미한 특징 선택의 효율성과 제어력을 향상시키기 위해 관련성과 중복성 평가를 분리하는 필터 기반 특징 선택 방법을 개발한다.
• 원본 데이터를 변환하지 않고도 차원을 축소함으로써 해석 가능성과 실시간 적용 가능성을 유지한다.
• 정규화된 상호정보량을 중복성 측정 지표로 활용하여 최소한의 밴드로 높은 분류 정확도를 달성한다.
• 실무적 구현을 위한 조절 가능한 임계값 기반 휴리스틱을 제공한다.

제안 방법

• 각 밴드와 지표면 진술(GT) 사이의 상호정보량(MI)을 사용해 밴드의 관련성을 순위 매긴다. 관련성이 높은 밴드를 선별한다.
• 이중 단계 프로세스를 적용한다: 첫 번째로 관련성 임계값(IM)을 기준으로 밴드를 필터링하여 정보성 있는 밴드만 유지한다.
• 두 번째로 후보 밴드 간의 모든 쌍에 대해 정규화된 상호정보량(NMI)을 계산하여 중복된 밴드를 탐지하고 제거한다.
• NMI의 두 가지 형태를 평가한다: 대칭 행렬 계산 기반 형태와 계산 복잡도를 줄이기 위한 최적화된 형태.
• 중복성 임계값(TH)을 적용해 NMI 값이 높은 밴드를 제거함으로써 최종 서브셋의 다양성을 확보한다.
• 최종 밴드 서브셋을 사용해 분류기 모델을 학습하고, AVIRIS 92AV3C 데이터셋에서 성능을 검증한다.

실험 결과

연구 질문

• RQ1 정규화된 상호정보량이 고분광 영상의 밴드 간 중복성을 효과적으로 측정할 수 있는가? 이는 효율적인 특징 선택을 지원하는가?
• RQ2 관련성과 중복성 평가를 분리함으로써, 동시에 임계값을 적용하는 것과 비교해 분류 성능 향상은 어떻게 달성되는가?
• RQ3 분류 정확도를 극대화하기 위해 관련성(고유 지표면 진술과의 높은 MI)과 중복성(밴드 간 낮은 NMI) 사이의 최적의 균형은 무엇인가?
• RQ4 원본 데이터를 변환하지 않고도 기존 220개의 밴드보다 훨씬 적은 수의 밴드로 높은 정확도를 달성할 수 있는가?
• RQ5 다양한 임계값 조합(IM 및 TH)은 선택된 밴드 수와 최종 분류 정확도에 어떤 영향을 미치는가?

주요 결과

• 제안된 알고리즘은 AVIRIS 92AV3C 데이터셋에서 42개의 밴드로만 84.24%의 분류 정확도를 달성하여 차원 축소의 높은 효율성을 입증했다.
• 단지 17개의 밴드로도 80%의 분류 정확도를 달성하여, 최소한의 특징 집합에서도 핵심 정보를 효과적으로 유지함을 보여주었다.
• 정규화된 상호정보량의 두 번째 형태는 42개의 밴드로 84.16%의 정확도를 기록하여 거의 동일한 결과를 도출했으며, 다양한 수식에 대해 강건성과 일관성을 입증했다.
• 관련성과 중복성 제어를 효과적으로 분리함으로써, 두 기준에 대해 단일 임계값을 적용하는 기존 방법보다 뛰어난 성능을 보였다.
• 임계값 분석에서 존 4(낮은 TH, 높은 TU)가 가장 효과적인 결과를 보였으며, 엄격한 중복성 제어와 높은 관련성의 조합이 최적의 성능을 이끌어낸다.
• 알고리즘이 레이블이 없는 영역으로도 잘 일반화되어, 원래 지표면 진술 맵에 포함되지 않은 픽셀까지도 성공적으로 분류함으로써 강력한 일반화 능력을 보였다.