[論文レビュー] An Algorithm and Heuristic based on Normalized Mutual Information for Dimensionality Reduction and Classification of Hyperspectral images

Elkebir Sarhrouni, Ahmed Hammouch+1 more|arXiv (Cornell University)|Oct 22, 2022

Remote-Sensing Image Classification被引用数 3

ひとこと要約

本稿では、分類性能の向上を目的として、高スペクトル画像（HSI）から冗長でない情報量の多いバンドを選択するために、正規化相互情報量（NMI）を用いた2段階のヒューリスティック手法を提案する。まず、正解地図（GT）との相互情報量が大きいバンド（関連性）を抽出し、次にNMIを用いて重複するバンドを除去する。AVIRIS 92AV3Cデータセットから220バンドのうち42バンドのみを用いて84.24%の分類精度を達成し、データ変換を施さずに次元削減を効果的に行うことを示した。

ABSTRACT

In the feature classification domain, the choice of data affects widely the results. The Hyperspectral image (HSI), is a set of more than a hundred bidirectional measures (called bands), of the same region (called ground truth map: GT). The HSI is modelized at a set of N vectors. So we have N features (or attributes) expressing N vectors of measures for C substances (called classes). The problematic is that it's pratically impossible to investgate all possible subsets. So we must find K vectors among N, such as relevant and no redundant ones; in order to classify substances. Here we introduce an algorithm based on Normalized Mutual Information to select relevant and no redundant bands, necessary to increase classification accuracy of HSI. Keywords: Feature Selection, Normalized Mutual information, Hyperspectral images, Classification, Redundancy.

研究の動機と目的

• 高スペクトル画像（HSI）分類における高次元特徴空間の課題に対処し、冗長で関連性のないバンドが性能を低下させることを軽減すること。
• 関連性と冗長性の評価を分離することで、より効率的で制御可能なフィルタベースの特徴選択手法を開発すること。
• 元のデータを変換せずに次元削減を実現し、解釈可能性を保ちながらリアルタイム応用を可能にすること。
• 正規化相互情報量（NMI）を冗長性指標として用いることで、最小限のバンド数で高い分類精度を達成すること。
• 商業的・リアルタイムシステムへの実用的導入を想定した、チューナブルなしきい値ベースのヒューリスティックを提供すること。

提案手法

• 各バンドと正解地図（GT）との間の相互情報量（MI）を用いて、バンドの関連性を順位付けし、高いMI値を示すバンドを選択する。
• 2段階のプロセスを採用する：まず、関連性しきい値（IM）に基づいて、情報量の多いバンドのみを保持するフィルタリングを実施する。
• 次に、候補バンド同士のすべてのペアに対して正規化相互情報量（NMI）を計算し、重複するバンドを特定・除去する。
• NMIの2通りの形式を評価する：対称行列計算に基づく形式と、計算複雑度を低減する最適化形式。
• 冗長性しきい値（TH）を適用して、NMI値が大きいバンドを除去し、最終的なバンド集合の多様性を確保する。
• 最終的なバンド集合を用いて分類器を学習し、AVIRIS 92AV3Cデータセット上で性能を検証する。

実験結果

リサーチクエスチョン

• RQ1 正規化相互情報量（NMI）は、高スペクトルバンド間の冗長性を効率的な特徴選択を支援する形で的確に測定できるか？
• RQ2 関連性と冗長性の評価を分離することで、両者を同時にしきい値処理する手法と比較して、分類性能がどのように向上するか？
• RQ3 分類精度を最大化するための最適な関連性（GTとの高いMI）と冗長性（バンド間の低いNMI）のバランスは何か？
• RQ4 本手法は、元の220バンドよりも著しく少ないバンド数で高い精度を達成できるか？ また、データ変換を施さずに可能か？
• RQ5 異なるしきい値の組み合わせ（IM と TH）は、選択されたバンド数と得られる分類精度にどのように影響するか？

主な発見

• 提案手法は、AVIRIS 92AV3Cデータセットからわずか42バンドを用いて84.24%の分類精度を達成し、次元削減の高効率性を示した。
• わずか17バンドで80%の分類精度に到達したため、最小限の特徴集合に重要な情報を効果的に保持できることを示している。
• 正規化相互情報量の2番目の形式は、42バンドで84.16%の精度を達成し、ほぼ同一の結果をもたらした。これにより、定式化の違いにかかわらず、手法の堅牢性と一貫性が確認された。
• 本手法は関連性と冗長性の制御を効果的に分離できており、両者に同一のしきい値を適用する手法を上回る性能を発揮した。
• しきい値分析におけるゾーン4（低TH、高TU）が最も効果的な結果をもたらし、厳密な冗長性制御と高い関連性の組み合わせが最適な性能をもたらすことを示した。
• 本手法はラベルなし領域にも良好に一般化でき、元の正解地図に含まれないピクセルをも正しく分類できた。これは、強力な一般化能力を示している。